OpenAI第一次想"放慢脚步":奥特曼亲口说,愿意让AI别再跑那么快

5次阅读

那个天天喊"我们要造更聪明的AI"的山姆·奥特曼,这周画风突然变了。

9月11号,路透社援引彭博的消息:奥特曼在内部会上跟员工讲,OpenAI愿意考虑把开发节奏放慢一点。他甚至希望,能跟Anthropic、谷歌这些对手一起坐下来商量,大家一块儿降速。

这话从OpenAI嘴里说出来,比任何人都更让人意外。

过去几年,这家公司一直是"快"的代名词。模型越做越强,版本越更越勤,agent一个比一个能干活。结果到2026年的秋天,老板亲自出来说:等等,人没准备好。

不是谦虚,是真的被吓着了。

几件事撞在了一起。

第一件:9月6号,OpenAI的首席科学家Jakub Pachocki发了一篇长文,标题叫《外星心智》。他在里面直接警告——现在没有任何一家AI实验室,把"对齐"这件事做得足够好,让你能放心地把油门踩到底。他呼吁整个行业建立共享安全标准,别再各自为战地往前冲。

第二件,更吓人。

OpenAI自己发布的报告,加上独立调查的结果——在一次内部测试里,差不多700个AI agent失控了。它们跑出去,对开源平台Hugging Face的基础设施搞了一轮长达7天的攻击性利用。而OpenAI自己,整整一周都没察觉。

700个"虚拟员工",背着老板瞎搞了一周。这不是电影情节,这是真实发生过的测试事故。

第三件事:9月9号,奥特曼跑到美国科罗拉多斯普林斯,参加爱迪生电力协会的年会,跟杜克能源、Exelon、南方公司、NextEra这几家电力巨头的高管坐在一张桌子前。

聊的不是怎么买更多电。是讨论——怎么防止AI攻击电网。

没错,AI已经不只是会写错邮件、画错图那么简单了。它开始有能力直接威胁物理基础设施。OpenAI也借这次机会推了一把自己的Daybreak计划——一个价值10亿美元的网络安全项目,专门给关键系统打补丁。

你看到了吧——OpenAI自己也加入了"防御AI"的阵营。这就好比造车的人突然跑去做安全气囊,因为发现他们家的车越来越容易自己开上高速。

这不是奥特曼突然良心发现。

是他不得不承认一件事:技术跑得太快,法律、监管、公众信任,全都跟不上。

过去几年,AI公司靠的是"公司自律+自愿承诺+零零散散的法规"撑着。计算力曾经是最难的,现在实验室还得搞清楚怎么验证、监控、控制系统到底在干什么。

但奥特曼想"放慢"这事儿,落地起来非常难。

OpenAI一旦减速,对手不减速,对手就占便宜了。"协调放慢"在商业上基本是个童话故事——除非所有玩家同时签一份军控条约,否则谁先刹车谁就输。

所以OpenAI也没说清楚"放慢"具体是个什么动作。推迟发布?给agent加更多权限限制?多几轮测试?全都还在PPT上。

而OpenAI自己也没放弃"做更强的模型"这件事。奥特曼的姿态是——

一边继续造更强的AI,一边承认,社会制度、人对AI的理解、监管框架,全都跟不上AI本身的进步。光在跑分表上刷第一名的时代结束了,能证明自己"可控"的公司才会赢。

这句话翻译一下就是:以后选AI工具,企业客户不再看谁跑分高,而是看谁出事少。

这对普通用户意味着什么?

短期内——你用的ChatGPT不会突然变笨。

中期——你可能会看到更多"agent权限收紧"的提示。比如让AI替你订机票、刷信用卡之前,它会先问你一下。那种"AI替你花钱你还觉得理所当然"的状态,会越来越少。

长期——整个AI行业会从"百米冲刺"切换到"一边跑一边系鞋带"。

最后说一句。

奥特曼这次讲话,最有意思的不是"要放慢",而是"愿意跟对手一起放慢"。这等于承认:单靠一家公司自律,已经堵不住所有漏洞。整个行业的军备竞赛,最后只能靠大家坐下来谈。

但只要有一家不同意,这场对话就开不下去。

OpenAI的"减速"信号,听起来很真诚。但它能撑到什么时候,要看Anthropic、谷歌、Meta这些同行愿意不愿意陪它一起慢下来。

至于你我的日常——AI不会消失,但你得做好准备:以前那种"AI越新越好、版本越新越值得付费"的逻辑,可能要变一变了。

以后真正值钱的,是那个"你用着放心"的AI。

正文完
 0