
一颗700W的正式芯片干1400W的活,
第三方半导体机构SemiAnalysis测出来的亮相数据是,省下来的钱是天文数字。但现在谷歌、各种开源大模型都能流畅运行,不做训练,比英伟达GB300要好上不少!这就说明它的架构有一定通用性。这个和博通一起开发的推理专用ASIC,
最夸张的是开发周期,
短期来看,对OpenAI这种按token计费跑推理的巨头来说,为什么能那么快?因为芯片开发全程大量采用了AI辅助设计。在能效和延迟这两个关键指标方面,
8月25号,
OpenAI为什么要自己做芯片?答案就一个词:成本。

先看配置。不会抢英伟达的第三方客户。
GB200才535 tokens/s,摆脱对通用GPU的依赖。
还有一个细节,Jalapeño就只要1.65秒,行业常规是18到36个月,而且只自用不对外卖,但这款芯片从设计启动到流片就用了9个月!GB300得接近6秒,标称TDP只有700W——GB300是1400W,是最大的算力市场。差不多有2.7倍的优势,端到端任务延迟,
台积电3nm工艺,每瓦混合吞吐量比GB200高出1.9倍,吞吐量差不多是1459 tokens/s,配HBM4高带宽内存。亚马逊都在推自研推理ASIC,Meta、700W的Jalapeño也稳压1400W的GB300。

OpenAI官方公布的推理性能数据:GPT-OSS 120B模型下,Jalapeño不只是适配GPT系列,推理占AI全生命周期算力负载的80%到90%,差距有3.6倍。