你在Substack上读到的文章,可能是机器人写的——现在平台要帮你分辨了。
Substack本周推出了一项新功能:AI文本检测。读者只需要点击帖子右上角的三个点菜单,选择扫描选项,平台就会告诉你这篇文章有多大比例是AI生成的。100词以上的帖子都能扫。
这个工具背后的技术来自一家叫Pangram的AI检测公司,目前已经在网页版和iOS版上线,安卓版本稍后推出。
Substack联合创始人Chris Best在博客里解释了做这个功能的动机:AI写作越来越普遍,但读者往往不知道自己读的是没有真人思考的产物。他给这种现象起了个名字:Claudefishing。
这个词挺妙的。Claude是Anthropic推出的AI助手,Claudefishing指的是那种看起来像真人写作、但背后其实是AI的内容。Best说得直接:当读者不得不怀疑自己读的东西是不是真的,信任就被破坏了,写作的人也会跟着遭殃——包括那些用AI工具但认真产出内容的人。
不过Pangram的检测也有局限。它只能判断AI是否被用来生成了文字,无法判断人类在创作过程中投入了多少思考,也不能检测AI是否被用作信息来源而非直接写作。Best承认了这一点,但他认为平台至少应该提供这个选项,让读者自己判断要不要把注意力花在某篇文章上。
配合这个功能,Substack还允许创作者在文章里添加一个说明,解释自己的写作流程。作者可以用Pangram扫描自己的草稿,如果检测结果不准也可以申诉。
这个功能出台的时间点挺微妙。AI写作工具这两年爆发式增长,大量自动化生成的内容涌入各个平台,读者越来越难分辨屏幕另一头是不是真人。Facebook、Twitter这些大平台一直在说要解决AI垃圾内容问题,但动作迟缓。Substack至少迈出了第一步。
当然,Pangram的检测能力本身也在被质疑。有研究者指出,当前的AI检测器普遍存在误报问题——把真人写的内容标记成AI生成,反过来的情况也有。在法庭上已经出现过因为AI检测结果导致文章被错误删除的案例。
但不管怎样,Substack做了。比起假装问题不存在,至少读者多了一个判断工具。至于准不准——那是另一个问题了。