克劳德打个错别字也被打上"AI生产"标签:Anthropic的水印政策被骂了

2次阅读

你帮学生改了一篇作文,结果这篇文章被打上了"AI生产"的标记。

这就是Anthropic最新的水印政策带来的真实场景。

8月13日,Anthropic宣布克劳德将开始对所有处理过的内容加水印——不只是AI生成的内容,连你让它帮忙改个错别字、润色一句话,也会被打上标记。

原因是为了符合欧盟《AI法案》的要求。这个法案规定,所有在8月2日之后发布的新型AI模型,都必须对AI生成或处理的内容打上水印。Anthropic直接把标准拉到最高:全球范围内所有新模型,从第一天起就标记。

但这个水印有几个问题。

首先,它很容易被绕过。把克劳德处理过的文字复制到另一个AI工具里再编辑一下,水印就没了。截图或录屏也能去掉图片和视频的水印。更关键的是,一旦Anthropic公布如何检测这些水印,开发一个去除工具也就是分分钟的事。

其次,它区分不了轻编辑和全生成。改一个逗号和写一篇文章,在克劳德眼里是一样的——都会被标记。你帮学生改了三个错别字,这篇文章就变成了"AI内容"。

第三,普通人不了解其中的区别。老师看到文章被标了"AI处理",会默认这是AI写的,而不会意识到它只是被润色过。

Anthropic自己也承认,水印传递的信息非常有限。它只能说明"这段内容可能被克劳德处理过",但无法证明"这段内容是AI写的"。而且,没有被检测到水印,也不意味着内容就不是AI生成或处理过的。

欧盟的《AI法案》本意是让AI生成的内容更容易被识别,防止深度伪造和信息造假。但Anthropic的做法相当于"宁可错杀、不可放过"——把所有经过克劳德的文字都标记,即使法律明确免除了"辅助性编辑"这一类。

一个语法纠错工具,为什么要和"AI创作"使用同一个标签?

这个矛盾目前还没有解决方案。Anthropic说会发布检测工具,但时间未定。在那之前,你只能接受这个现实:克劳德认为,帮你改个错别字,也是一种"AI痕迹"。

正文完
 0