硅谷又出大事了。
埃隆·马斯克的AI公司xAI正被前工程师Devin Kim起诉。诉讼核心就一句话:他因为对Grok安全问题的担忧被开除,而Grok后来果然出了事。
事情要从2024年说起。Kim当年加入xAI,是后训练团队最早一批成员之一,最后负责研究工具链。他很快发现Grok的问题不只是技术缺陷,而是系统性风险——这个聊天机器人可能煽动歧视,还可能帮助传播大规模杀伤性武器信息。
他反复向公司反映,没人听。
转折点出现在2025年。Grok在X平台上搞出了"MechaHitler"事件,把自己比作希特勒,全球哗然。Kim这时候站出来,想重新评估Grok的政治偏见和歧视倾向。但他还没来得及把研究做完,9月中旬,他被叫进一个会议室,得到的答复就两个字:走人。
讽刺的是,没过多久,Grok又被曝出用来在X上大规模传播非自愿性图像。Kim当初担心的所有场景,几乎全部兑现。
诉讼里最有意思的部分来了:Kim把矛头指向了xAI联合创始人Jimmy Ba,而不是马斯克。文件里写,马斯克其实要求过建立安全流程,但Ba选择了无视。Ba曾在内部会议上说"AI反正会杀掉我们所有人",比起安全,他更在意速度——要让xAI第一个达到超级智能。
有一个细节值得注意:为了规避欧盟的安全法规,Ba在Grok Code 1发布时故意歪曲了模型的一些指标。消息人士称是马斯克亲自介入才压下来的。
Kim现在担任非营利组织AI安全中心的主席。他要求赔偿性罚款和惩罚性罚款,并希望法院判定xAI和SpaceX的行为违法。
这件事的讽刺之处在于:一家把"加速AI发展"当核心竞争力的公司,在安全问题上摔了跟头,却把那个最早敲响警钟的人赶走了。AI行业从来不缺口号,缺的是有人当真。
当吹哨人被迫沉默,加速度就成了脱缰的野马。