Публикация

OpenAI开始自己造芯片 英伟达真正的对手可能越来越多了 OpenAI第一颗自研AI芯片 Jalapeño 最近公布更多测试结果。 这颗芯片是OpenAI和Broadcom一起做的，专门针对大模型推理优化。SemiAnalysis实测显示，在部分模型上，Jalapeño每瓦性能最高可以做到英伟达GB200、GB300系统的 1.9倍左右，延迟最低甚至能减少到接近三分之一。 我觉得这件事真正重要的不是「OpenAI打败英伟达」。 因为OpenAI自己都说了，未来训练和推理还是会继续大量使用英伟达。 真正值得注意的是，AI公司烧的钱越来越多以后，推理成本已经贵到值得自己从芯片底层开始优化了。 Google、Amazon、Microsoft，再到现在OpenAI，大家都开始自己做。 AI算力需求没有变小，只是这块蛋糕开始有越来越多人想自己吃。 $NVDA $WLD $MU #OpenAI自研芯片亮相，推理成本成关键