六月中旬,美国商务部一纸禁令,把Anthropic的两款模型按下了暂停键。
Mythos 5和Fable 5——这两款被业内称为"最强网络安全AI"的模型,刚上线几天就被撤架。官方理由是:研究人员轻松绕过了内置的安全防护栏,存在数据泄露风险。
事情过去了两周。
昨天,剧情反转。
商务部长霍华德·卢特尼克(Howard Lutnick)亲自致信Anthropic首席计算官汤姆·布朗(Tom Brown),宣布允许Mythos 5重新部署给超过100家美国政府机构和公司——包括这些机构的非美国籍员工,以及Anthropic自己的海外员工。
这意味着什么?
之前禁令的范围其实很广:任何非美国公民都无法接触这两款模型,连Anthropic自己的海外员工都被一网打尽。现在,政策松绑了——前提是你所在机构进了那份"白名单"。
Fable 5的情况还不明朗。商务部的这份公函只提了Mythos 5,对Fable 5只字未提。
Anthropic在周五发了条推特确认进展,大意是:正在快速恢复那批"关键基础设施运营和防御机构"的访问权限,同时继续游说政府扩大范围、让Fable 5也重新可用。
这场风波的底层逻辑不难理解:政府担心模型能力太强、被滥用;Anthropic则坚持"那些担忧只是口头证据"。现在看来,双方找到了一条中间路。
有意思的是,Anthropic上周刚在美国大选期间短暂推出过Fable 5——当时号称"防护更强"。结果一上线就被安全研究人员打脸,越狱教程满天飞。
AI模型的安全问题,从来不是"设了就有"的。
你用Claude处理过敏感数据吗?
正文完