改个逗号也被打上"AI生产"标签:克劳德 watermarking 惹争议

4次阅读

你帮学生改作文,顺手丢进克劳德检查了一下语法。结果这份作业被打上"AI生成"标签——仅仅因为你用AI改了一个逗号。

这听起来像个笑话,但这就是Anthropic最新政策带来的真实后果。

8月13日,Anthropic宣布从即日起,所有克劳德处理过的内容都会被人眼看不见的水印标记。这个水印不是给用户看的,是给检测工具用的。欧盟《AI法案》要求所有8月2日之后发布的大模型对AI生成内容打标记,Anthropic的执行标准却是:只要克劳德经手过的内容,全部打标记。

重点来了:欧盟法律明确说了,"辅助性编辑功能"——比如帮你改个错字、调一下格式——不需要标记。但克劳德把这些全纳入了标记范围。

克劳德的解释是:模型层面的水印分不清"全文生成"和"改了个逗号",所以干脆全部打上标记。这样做最简单,但后果是:

你写了一篇文章,用克劳德润色了一遍。哪怕只改了一个词,这篇文章也会带上克劳德的标记。

更麻烦的事情在后头:水印可以轻松绕过。截图再发、粘贴到另一个AI工具里稍作修改,或者用任何一款图片编辑工具抹掉元数据——这些操作都能让水印失效。Anthropic自己也承认,"检测到标记不等于内容是AI生成的",但这个解释权归他们。

普通人看到"克劳德处理过"的标签,会怎么想?大概会默认这篇文章是AI写的。

老师看到学生作业有这个标签,可能直接判定作弊。雇主看到员工报告有这个标签,可能质疑原创性。事实上,克劳德的标记只会说"AI碰过",不会说"AI写的"。但普通人分不清这个区别。

对了,检测工具还没发布。Anthropic说"计划在未来分享检测方法",但具体时间没说。现在打出去的水印,目前没有办法被验证。

欧盟《AI法案》违规罚款最高可达1500万欧元,或全球年营收的3%。Anthropic宁可过度标记,也不愿意冒险被罚。这是大公司的选择,但代价落在了每一个普通用户身上——你用克劳德查一个单词,你的文字就背上了"AI生产"的嫌疑。

你改了几个错别字,作业就变成了"AI作业"。这个逻辑,细想挺荒谬的。

正文完
 0