达里奥·阿莫迪最近写了篇长文，结论很直接：最强的那批开源AI模型，已经危险到不能随便放了。
他说的是实话。Meta的Llama、火起来的Mistral、还有中国的DeepSeek，这些开源模型现在追着闭源系统跑，成本只有后者的零头。性能差距在缩小，下载随便下，没人管得住。
问题在哪？一旦权重文件泄露，什么安全护栏都是纸糊的。社区早就证明过，剥离安全限制一个周末就够。"安全版"和"无限制版"最后变成同一个文件，改几行设置而已。
闭源模型也没法幸免。你以为不对外开放就安全了？别人多调几次API，蒸馏出个小型复制品，原来的安全训练全没了。这不是理论，是已经发生过的事。
开源派反驳说，开放才是真正的安全——外部研究者能发现问题，能公开批评。关起门来的模型，谁来监管？
但这个逻辑有个盲区：如果最强的模型只掌握在少数几家大公司手里，风险并没有消失，只是集中了。而这几家公司，恰好就是阿莫迪的论点能让他们受益的那几家。
所以行业现在的真实处境是：从"默认开放"转向"默认审查"。但审查这事对Meta、Mistral、DeepSeek这些公司根本不管用，人家该发还发。
接下来几个月，AI监管会变得更具体——什么时候模型强大到必须限制，怎么限制，限制得住吗？这些问题没有好答案。但阿莫迪至少把话说清楚了：安全机制建起来容易，真正难的从来都是它能不能撑住。
开源AI的好日子，可能是真的到头了。
正文完