奥本海默芯片出炉:OpenAI和博通推出Jalapeño,AI推理速度要起飞了

5次阅读

OpenAI又搞事了。

这家公司刚刚和博通(Broadcom)一起发布了一款专用AI芯片,名字叫Jalapeño——对,就是那个墨西哥辣椒。设计耗时9个月,专门用来跑大语言模型推理。

所谓推理,就是你问ChatGPT一个问题,它思考、然后给你答案的过程。这个过程以前主要靠英伟达的GPU来跑。现在OpenAI想自己来了。

官方说法是:早期测试显示 Jalapeño 的"每瓦性能比现有顶尖方案好很多"。芯片今年底就会部署到数据中心。

OpenAI的算盘不难猜:想摆脱对英伟达的依赖。英伟达的GPU是通用货,什么都能跑,但专用芯片只做一件事——跑AI推理——理论上更快、更省电。

这也解释了一个趋势:为什么今年各大科技公司都在捣鼓自己的芯片。ChatGPT要处理全球几亿用户的请求,数据中心电费是个无底洞。专用芯片能省下的不只是钱,还有宝贵的算力。

博通这边本来就在给各大云厂商做定制芯片,AWS、谷歌都是它的客户。现在多了OpenAI这个大客户,芯片战国的格局又变了。

对普通用户来说,这意味着什么?你和AI对话的响应速度会更快,答案质量会更稳定,背后是整个AI基础设施在升级。辣椒不大,但辣味够冲。

Jalapeño,名字挺有意思。第一代专用AI推理芯片,以后还会有Jalapeño 2、Jalapeño 3——就像英伟达的显卡迭代一样。

AI军备竞赛,又开了一个新战场。

正文完
 0