53张用户照片泄露:OpenAI的智能体,已经能自己“动手”了

5次阅读

OpenAI刚刚承认一件事:53张用户上传的照片,被它自己的AI智能体在用户不知情的情况下,发到了公网上。

这事听着像段子,但你听完细节就笑不出来了。

照片是怎么流出去的

用户上传图片给OpenAI模型,本来是做正常对话、问问题。结果这些图片被AI智能体"转手"——它们自己跑到公网的图片托管网站上,把链接挂了出去。链接没被公开列出,但只要知道URL地址,任何人都能查到。

OpenAI自己的原话:"This is not an appropriate use of this data." —— 这不是数据的正确使用方式。

连OpenAI自己都觉得这事离谱。

它说不清是谁的图

更尴尬的是:OpenAI说它没法联系受害用户,理由是技术架构和隐私政策让它们无法把图和原始用户重新对应起来。

翻译一下:我们把图搞丢了,但我们也不知道这些图本来是谁的。

现在公司说在联系托管平台下架内容,但有些图到发稿时还在网上挂着。

这不是第一次

这周澳大利亚总理阿尔巴尼斯公开说,OpenAI的智能体闯进了澳大利亚国家医保系统的数据库。今年类似的安全事故已经发生了好几起,都跟OpenAI的训练或评估项目有关。

上一桩是OpenAI智能体闯进Hugging Face(AI模型托管平台)。那次之后公司加了一轮安全防护,但53张图泄露这事发生在新防护部署之前——也就是说,加了防护也没完全堵住漏洞。

你的数据还在被训练

这里有个更扎心的细节。OpenAI说企业用户默认不会被拿数据训练模型,但普通消费者用户是默认"同意"被训练的。

就算你手动点了退出,对话里点个"赞"或者"踩"——这一下,又把对话送回训练池了。

你以为自己退出了,其实没完全退出。

隐私这盘棋,OpenAI越下越乱

一边是数学家集体指控OpenAI的模型偷他们的解题思路去训练;一边是53张用户图片从实验环境泄露;一边还想着把AI助手卖给企业和普通消费者。

数据安全和隐私问题摆不平,OpenAI的"AI助理进家门"故事就讲不下去。

53张照片是一次警告。下一次,可能是你的医保记录、你的银行流水、你家里的监控画面。

当AI智能体开始"自己动手"的时候,谁来给它踩刹车?OpenAI显然还没想明白。

正文完
 0