一段15秒的唱歌视频，换回来的是AI对你全家底牌的盘问。
上周，Instagram用户Kalie Robins随手把一段在车里和女儿唱歌的视频转发到Facebook。视频下方，Meta AI的提示词冷不丁冒出一句：“这个小孩乘客是谁？”
她点了下去。接下来发生的事情，让她至今没缓过来。
AI没问她愿不愿意，直接把孩子几岁、她家住哪儿、孩子的名字，一个一个摆出来给她。提示词还贴心地接着追问：“你女儿多大了？”“你和家人住在哪里？”更离谱的是，AI给她看的照片里，有一张她声称自己几年前就已经删掉的女儿照片。
这不是她主动搜的，不是她输入的，就是AI自己挖的。
— 1 —
Meta的回应：我们没翻你看不到的内容
The Verge把这件事捅出来之后，Meta发言人Dina El-Kassaby给了一个很“官方”的表态：“Meta AI只返回用户本就能访问的内容，看不到的东西，它不会给你。”
听起来好像挺合理，对吧？你看得到的，AI帮你整理出来，贴心服务。
但禁不起细想。Kalie Robins当年把那张照片删了，按平台的规则，她“应该”看不到。结果AI不仅看到了，还主动翻出来给她。这中间的灰色地带，Meta没有解释：是缓存没清？是某个亲戚转存了一份没删？还是Meta的“删除”在AI眼里就是个摆设？
Meta自己也承认：“这个功能根本不应该向用户提出那种问题，我们搞砸了（missed the mark）。”
— 2 —
这不是Meta第一次在AI隐私上翻车
如果你还记得今年7月那件事——Meta曾经上线过一个功能，能让任何人生成其他Instagram用户的AI深伪视频。被舆论狂喷之后，这功能三天内被撤了。
现在这次，Meta的AI开始主动跨平台扒用户隐私，从Facebook到Instagram，从自己的帖子到亲戚的帖子，把信息拼起来。技术没问题，边界感出大问题了。
这不是孤例，是趋势。今年以来我们已经看到过：
(1) AI助手主动给孩子提一些奇怪的问题
(2) AI跨账号抓取关联信息
(3) AI用你几年前“删除”的数据做推荐
大模型的能力越来越强，它能挖到的东西越来越多，但产品经理有没有在每一个新功能上线前想清楚“这玩意挖得对不对”，从这次事故来看，明显没有。
— 3 —
为什么AI会“越界”？三个字：太主动
现在大厂的AI助手都在卷“主动服务”。你不问，它也给你推话题、提建议、做总结。Meta这次的“Who is the child passenger?”就是典型的主动提示词（prompt suggestion）。
Meta的设计逻辑可能是这样的：
看到视频里有人脸 → 触发“人脸识别-人物关系”提示词 → 提示用户点进去 → 展示AI总结的关系网。
听上去很智能。但对家长、家庭、未成年孩子这种敏感场景，AI根本不应该主动挖。用户不发问，AI就不要问。用户不授权，AI就不要翻。
这不是技术问题，是产品价值观的问题。
— 4 —
普通用户该怎么办？
这次事件里，Meta已经表态会修复，但“会修复”不等于“下次不会再犯”。AI主动服务的边界感问题，本质上是整个行业都没想清楚的事情。
如果你也用Meta系的AI（Facebook、Instagram、WhatsApp、Messenger里现在都集成了），几条实用建议：
(1) 重要家人的照片别只存在一个平台，本地+网盘+打印，三份以上
(2) 亲戚朋友的账号设置翻一翻，他们可能无意中把你女儿的照片也公开了
(3) 看到AI主动提示词，不要点，尤其是涉及人物、地点、年龄的
(4) 孩子的信息不要发在社交平台，名字、学校、坐标，一个都不要漏
AI的能力在涨，你对它的警惕也得跟着涨。指望大厂替你把关，这事过去半年已经反复证明——不靠谱。
— 5 —
结尾
最后说一句掏心窝的话。Meta这两年拼命往AI上砸钱，想让Muse这种AI Agent替用户干活。想法是好的，但Agent越能干，越需要边界感。它能替你订机票、订外卖，理论上也能把你女儿的隐私翻个底朝天。
技术跑得太快，产品经理的脑子得跟上。这次的事Meta说“修复了”，下一次呢？
你拼命想保护的东西，AI不一定知道那是你想保护的。