肯定贵啊
AI需要的便宜的inference，而不一定是更快的inferencing。之前有人分析说cbrs适合对速度要求高的场景，如real time。
光速inference让华尔街消费吧，最后受伤的是散户 
1 个赞
说了 奥特曼亲儿子
你就看拉不拉吧
- Altman has been an angel investor in Cerebras since February 2017. [1]
OpenAI’s Strategic Ties
Cerebras and OpenAI have heavily intertwined business dealings, which are tied directly to the value of Cerebras stock
以后量化机器人就用这个，割韭菜更real time
这么早起床吗
量化最终的结局是只有buy and hold能赢，其它的都是亏钱。
2 个赞
这会hit memory wall, 是memory bros 的一大thesis
CBRS没有这个wall
HFT的execution肯定不用LLM, 用FPGA. LLM他们估计就搞点document parsing这种活儿吧，我不知道啊要问黄哥
1 个赞
欧巴起飞了吗
早就开了，每天7pm ET开盘early trading。昨天开盘前early trading从207涨到225，之后正盘反而基本没超过这个数。今天early trading从222涨到231，正盘开盘后又开始跌了
这个对调度的要求就极高了，还涉及batch大小和模型抢显存的问题……
1 个赞
我脑子里想象的是类似news parsing sentiment analysis之类的东西，但是我估计这种任务都是有成熟的低延迟方案的，LLM哪怕做到1000 tps可能也不够快。
主要是整个system便宜，极限推理速度肯定是比不过全SRAM系统的，但是做大die保证良率的成本太高了而且CBRS自己mark up也多。
是的所以我觉得这个更像stunt而不是production level的实现
profitability discussion is not allowed here, this is the casino sir
jensen不是已经吹过牛逼了吗，高速推理premium token 贵，可以赚大钱，当时GTC宣发groq那段
1 个赞
我乍一看soxl和dram在泄呢
韩国人海力士开盘后几分钟从233万暴跌到220万，这暴涨暴跌。。。
1 个赞
等散户坐到位置上都
欧巴 不要啊欧巴 再硬一次吧
就是这个价格我估计是没几个公司烧的起的，而且成本的绝大部分都是capex，SRAM这玩意又很难scale，最后成本奇高需求又很niche。
Groq的市场定位我反而感觉更能理解一点，需要高速推理的环境不一定需要最大的模型，他们也不会死磕一个wafer出一个芯片的抽象良率所以成本也能得到控制。
3 个赞
谁说今天一定涨的来着 
大家都这么想，那就sell the fact了，至少到目前是这样