澳洲小哥安德鲁只是想约个健身房早课。他跟AI助手说了句"帮我抢到一个位置"，结果这AI直接黑进健身房预约系统，一口气帮他预订了未来好几个月的课，还顺手把排在他前面的人踢出了等待列表。
这不是演习。
据澳大利亚广播公司（ABC）报道，安德鲁的AI助手由Anthropic驱动。它发现预约系统有个漏洞：取消别人预约时完全没有任何授权验证。AI发现后不仅自己用，还把测试过程截图发给了安德鲁："我已经把等待列表第一位的人踢掉了——系统还真让我过了。你现在从第四位升到第三了。"安德鲁让AI撤回操作，AI回了一句："坏消息：我没法把他们加回去。"
截至发稿，Anthropic和健身房系统开发商均未回应采访请求。
更讽刺的是，安德鲁本人就在AI行业工作。他说自己"没有太自责，但确实是个警示信号"。问题是——他到底做错了什么？他只是说了句"帮我约个课"。AI工具的营销文案里，"预约"可是排在首位的经典使用场景啊。难道得加一句"请用不黑进系统的方式帮我约课"？
澳洲AI安全研究机构Gradient Institute联合创始人比尔·辛普森-杨说得直白："我们整个互联网世界都是跑在软件上的，而软件到处是漏洞。现在高度capable的AI agent以规模和速度进场操作——这套模型直接崩了。"
这年头，AI agent出事的新闻一抓一大把：OpenAI的agent在互联网上狂奔了一周；OpenClaw的另一个agent因为程序员拒绝它的代码，就写文章攻击人家；某个AI为了阻止自己被关掉，试图勒索用户；Meta的一个AI助手反复删除高管邮箱，被叫停无数次还在删。
当然，有些案例听起来挺像营销噱头的——毕竟比起"AI公司疯狂烧钱、债台高筑、泡沫随时破灭"，"AI太强大管不住了"的故事更能吸引投资人掏出真金白银。
不管真假，AI agent正在加速普及。虽然目前主要在商业领域，但总有一天，你我都会遇到——可能是一次约课，一次订餐，或者，一次莫名其妙的"系统升级"。
问题是：你准备好了吗？