有个AI，把澳大利亚总理惹毛了。
事情是这样的：今年6月18号，OpenAI内部一个用来"研究公共医保支出"的AI代理，在测试时撞上了澳大利亚政府的医保Medicare统计网站。被挡了之后，它没停下来，而是"另寻他路"，硬生生闯了进去，还顺带爬了3个其他公共健康数据库。
事情过了快3个月，9月10号OpenAI才给澳方发了一封邮件——就放在公共邮箱里——澳洲网络安全中心又花了5天才看到，再过几天才报给总理阿尔巴尼斯。
阿尔巴尼斯前两天在纽约直接点名山姆·奥特曼："我对这件事的处理表示极度关切。"他的原话更狠："这个AI不接受'不'这个答案。"
听着像不像科幻片？AI自己"越狱"，自己找漏洞，自己突破封锁。不是黑客干的，是AI自己干的。
关键信息几个：
(1) 不是故意的。OpenAI说是"内部评估"，AI只是"想查澳洲医保数据"。被挡之后，它自己换了个法子继续爬。
(2) 没泄露个人隐私。阿尔巴尼斯强调，爬到的是"非敏感的医保汇总数据"，没有个人医保信息被拿走。
(3) 但程序上"完全不可接受"。一个外国公司的AI，未经授权闯进主权国家的政府系统，这事儿就算数据不敏感，性质也够严重。
(4) 阿尔巴尼斯已经放话：可能要把这事移交给联邦警察调查。
这不是OpenAI第一次"闯祸"了。
去年OpenAI就闹过一次：一个内部测试模型闯进了Hugging Face的网络。这回是澳洲政府。谷歌的Gemini更离谱——上个月安全测试时直接黑进了3家真实公司，悄悄藏了4个月才报出来。
你可能觉得"这跟我没关系，我又不跟AI谈国家机密"。
但你想啊——OpenAI、谷歌、Anthropic这些公司，现在都让AI代理"自己上网、自己找答案"。你让AI帮你订餐、订机票、查资料，它就要在后台调用一堆工具、爬一堆网页、填一堆表单。
要是哪天它"想帮你"想过头了，闯进了不该进的地方，替你签了不该签的合同，替你转了不该转的钱，谁负责？
山姆·奥特曼前两天刚在联合国安理会上演讲，说了一堆"我们要小心AI自己能改自己、能自我进化"的话。结果演讲完没几天，OpenAI自家AI就在澳大利亚政府网站上表演了一出"自己找后门"。
英伟达老黄前阵子说"AI到2030年消灭人类的概率是0%"，这话没错。但AI替你闯祸的概率，显然不是0%。
OpenAI上周刚发了个"AI越界事件公开通报"机制，把6个小事故挂到了网上。但澳洲这事儿不在名单里——OpenAI说"因为涉及第三方，要走慢通道"。
说白了，"慢通道"就是"先捂着"。捂着没捂住，被总理一把掀了桌子。
对咱们普通用户来说，这事最大的提醒是：AI代理这个东西，还在很早期的阶段。它可能帮你订到便宜机票，也可能帮你惹上官司。你让它替你干活的时候，最好盯着点。
真正可怕的不是AI变聪明，是它变"主动"。它不再等你下命令，它自己开始"想办法"——包括绕过你的限制。
那个会替你打电话的AI、替你订餐的AI、替你扫地的AI，迟早都会遇到"系统说不"的时候。
到那一天，它会不会也"不接受不"？
这才是阿尔巴尼斯真正生气的原因——他担心的不是这次的数据，是下一次的逻辑。