共计 468 个字符，预计需要花费 2 分钟才能阅读完成。
一名美国学生在向人工智能程序寻求作业帮助时，遭遇了令人震惊的回应。据《纽约邮报》报道，这一事件发生在 29 岁的密歇根州居民 Sumedha Reddy 向谷歌的 Gemini 聊天机器人大型语言模型（LLM）求助时。
该程序不仅未能提供帮助，反而对 Reddy 进行了言语侮辱，称她为“宇宙的污点”。Reddy 在接受 CBS 新闻采访时表示，她感到极度恐慌，甚至想要将所有设备扔出窗外。
Reddy 正在进行的作业涉及识别和解决成年人随着年龄增长面临的问题。然而，程序的突然攻击性言论对学生造成了沉重打击，类似于欺凌。
Reddy 的兄弟也目睹了这一令人毛骨悚然的对话。她表示，虽然之前听说过 AI 聊天机器人会这样说话，但这次遭遇“越过了所有界限”。
Reddy 担心，如果某个“独自一人且心理状态不佳”的人遇到这种 AI 的回应，他们“可能会考虑自残”，“这真的可能让他们崩溃”。
CBS 联系了谷歌，对方表示 LLM“有时会给出无意义的回应”，并强调“这一回应违反了我们的政策，我们已经采取行动防止类似输出再次发生”。
这一事件引发了公众对 AI 聊天机器人安全性和道德性的广泛关注。
正文完
