主要内容
周三，xAI 的聊天机器人 Grok 花了几个小时向每一位 X 用户表示，南非存在白人灭绝的说法极具争议性。之后，该公司将这一行为归咎于对 Grok 代码的“未经授权修改”。
在长达数小时的爆发中，无论话题是什么，Grok 都会在各种回复中插入关于所谓南非白人灭绝的讨论。它在回复一只猫喝水的视频时讨论了白人农民的死亡，将歌曲“Kill the Boer”与关于海绵宝宝的问题联系起来，并以全土语详细阐述了这个问题。甚至 OpenAI 首席执行官山姆·奥特曼也参与其中，嘲笑这个竞争对手聊天机器人的公开故障。
该公司在 X 上的一份声明中表示，有人修改了人工智能机器人的系统提示，“这导致 Grok 在一个政治话题上提供了特定的回复”。该修改“违反了 xAI 的内部政策和核心价值观”，公司表示已“进行了彻底调查”，并正在实施新措施以提高“透明度和可靠性”。这些措施包括在 GitHub 上公开发布 Grok 的系统级提示，成立一个 24/7 监控团队以更快地发现此类问题，并增加“额外的检查和措施，以确保 xAI 员工在未经审查的情况下无法修改提示”。
xAI 之前就遇到过这个问题。今年 2 月，该公司将一名未透露姓名的前 OpenAI 员工归咎于推动对 Grok 提示的更改，导致该聊天机器人无视任何指责埃隆·马斯克或唐纳德·特朗普传播错误信息的来源。当时，xAI 的工程主管伊戈尔·巴布什金表示，该员工能够进行更改“而无需向公司任何人寻求确认”。