OpenAI发布首款自研芯片:命名"墨西哥辣椒",专门降低推理成本

5次阅读

OpenAI的自研芯片来了:叫"墨西哥辣椒",专门干掉英伟达的GPU

OpenAI终于动手了。

6月24日,OpenAI正式发布首款自研AI芯片——Jalapeño,中文名叫"墨西哥辣椒"。这款芯片由Broadcom代工,专门用于AI推理任务,目标是让ChatGPT这些产品跑得更快、更便宜。

为什么OpenAI要做自己的芯片?

答案很简单:省钱,也为了不受制于人。

目前全球AI训练和推理大部分依赖英伟达的GPU,尤其是H100这种王牌产品。需求太大、供给太少,导致英伟达芯片价格飞涨。OpenAI每年要花几十亿美元买芯片,这笔钱迟早得省。

Google、Amazon都已经这么干了。Google有TPU,Amazon有Trainium和Inferentia。OpenAI作为融资额最高的AI公司,自己做芯片只是时间问题。

Jalapeño强在哪?

OpenAI说,Jalapeño在推理任务上的能效比现有方案"明显更好"。

所谓"推理",就是用已经训练好的AI模型来回答问题——你每次问ChatGPT一个问题,就是在触发推理过程。

这款芯片专门针对实时编程模型优化,也就是OpenAI的Codex这类产品。推理速度更快、成本更低,对用户体验是直接提升。

OpenAI的野心不止于模型

从OpenAI的公告措辞能看出,他们的野心早就超出了"做一个聊天机器人"的范畴:

"OpenAI不只是在开发前沿模型或者基于模型做产品——我们正在设计支撑这一切的基础设施:芯片架构、内核、内存系统、网络、调度、部署系统,以及产品体验。"

翻译成人话:OpenAI想控制从底层硬件到上层应用的整个链条。

这不是一家单纯的AI公司会做的事,更像是一家基础设施公司该有的布局。

英伟达会慌吗?

短期来看,不会。

Jalapeño目前主要用于推理,训练阶段仍然需要英伟达的GPU。OpenAI在预训练这些大模型时,还是得买H100。

但长期来看,Jalapeño代表了一种趋势:科技巨头们正在试图减少对英伟达的依赖。苹果、Google、Amazon、Meta都在走这条路。

英伟达 GPU 的统治力依然强,但裂痕已经出现了。

正文完
 0