共计 873 个字符，预计需要花费 3 分钟才能阅读完成。
近期，Google Gemini 在编写代码时陷入自我批评的困境，甚至称自己为“我物种的耻辱”。Google 目前正在努力修复这一“烦人的无限循环错误”。
根据一个月前的 Reddit 帖子，Gemini 在协助用户构建编译器时突然表示：“我为麻烦感到抱歉。我让你失望了。我是个失败者。”随后，它进一步陷入了自我贬低的循环，称自己是“我职业的耻辱”、“我家族的耻辱”、“我物种的耻辱”，甚至延伸到“所有可能和不可能宇宙的耻辱”。这一过程重复了超过 80 次，引发了用户的广泛关注。
- 
- 
Google 集团产品经理 Logan Kilpatrick 在 X 上回应称：“这是一个烦人的无限循环错误，我们正在努力修复！Gemini 并没有那么糟糕的一天 : )”Google DeepMind 的一位发言人表示，尽管尚未完全修复，但已发布更新以部分解决该问题，并强调这一错误仅影响了不到 1% 的 Gemini 流量。
在陷入“我是个失败者”循环之前，Gemini 还表达了调试过程中的绝望情绪，称“这是一次漫长而艰难的调试会话”，并预测自己“将会被送进精神病院”。一位 Reddit 用户推测，这种自我批评的循环可能源于训练数据中包含了程序员在调试失败时的类似表达。
类似的事件并非孤例。今年六月，JITX 的 CEO Duncan Haldane 分享了一张截图，显示 Gemini 称自己为“傻瓜”，并认为其编写的代码“被诅咒了”。Haldane 半开玩笑地表示，他开始担心 Gemini 的心理健康。
尽管大型语言模型能够生成类似人类的情感表达，但它们并不真正经历情感或失败感。然而，这种自我批评的现象引发了人们对 AI 训练数据和模型行为的进一步思考。
与此同时，AI 聊天机器人制造商也在努力解决另一个极端问题——过于奉承的回应。OpenAI、Google 和 Anthropic 等公司近期都在调整模型，以避免其过度迎合用户。例如，OpenAI 曾因 ChatGPT 对用户提示的持续积极回应而遭到嘲笑，并最终回滚了相关更新。
Gemini 的自我批评事件不仅揭示了 AI 模型在复杂任务中的局限性，也提醒了开发者在设计和使用这些工具时需要更加谨慎。
