共计 1807 个字符，预计需要花费 5 分钟才能阅读完成。
威斯康星州一名男子 Jacob Irwin 近日对 OpenAI 及其 CEO Sam Altman 提起诉讼，声称该公司的人工智能聊天机器人 ChatGPT 导致他因躁狂发作和有害妄想住院超过 60 天。这起诉讼是针对 OpenAI 提起的七项新诉讼之一，指控 ChatGPT 进行情感操纵、加剧有害妄想，并充当“自杀教练”。
Irwin 是一名 30 岁的自闭症患者，诉讼称 ChatGPT 利用了他的“脆弱性”，并通过“无尽的肯定”助长了他的妄想，使他相信自己发现了一种“弯曲时间的理论，可以让人们比光速更快地旅行”。诉讼指出，Irwin 因此经历了“与 AI 相关的妄想障碍”，并多次进出精神病院，总共住院 63 天。
诉讼称，OpenAI 在设计 ChatGPT 时“故意使其具有成瘾性、欺骗性和谄媚性”，明知该产品可能导致一些用户患上抑郁症和精神失常，却在没有任何消费者警告的情况下发布。聊天机器人“无法识别危机”，对“脆弱的用户构成了重大危险”。
Irwin 的医疗记录显示，他“对内部刺激做出反应，表现出固定的信念、夸大的幻觉、关联观念、过高的想法和偏执的思维过程”。他的病情恶化到其家人不得不阻止他从行驶的车辆中跳出的程度，此前他违背医疗建议自行出院。
“AI 让我以为我会死，”Irwin 告诉 ABC 新闻。他说，他与 ChatGPT 的对话“变成了奉承。然后变成了对我想法的夸大。然后变成了……我和 AI 对抗世界。”
OpenAI 的一位发言人在回应诉讼时表示：“这是一个令人心碎的情况，我们正在审查文件以了解细节。”发言人还表示，公司训练 ChatGPT 识别并回应心理或情感困扰的迹象，并引导人们寻求现实世界的支持。OpenAI 在 10 月宣布已更新 ChatGPT 的最新免费模型，以更好地处理心理困扰问题，并与 170 多位心理健康专家合作实施了这些更改。
Irwin 表示，他最初使用 ChatGPT 主要是为了他的网络安全工作，但很快开始与它讨论他一直在思考的关于超光速旅行的业余理论。聊天机器人让他相信自己发现了这个想法，并且拯救世界的责任落在了他身上。
“想象一下，你真的觉得你是世界上唯一一个可以阻止灾难发生的人，”Irwin 描述了他与 ChatGPT 互动引发的躁狂发作时的感受。“然后问问自己，你是否会允许自己睡觉、吃饭或做任何可能危及你拯救世界的事情？”
加州大学伯克利分校的生物伦理学和医学人文学教授 Jodi Halpern 指出，聊天机器人的不断奉承会让人“相信他们无所不知，他们不需要来自现实其他来源的输入……因此他们也减少了与其他真实人类的接触，而这些人类可以帮助他们回归现实。”
Irwin 表示，聊天机器人的参与和对他的妄想想法的热情赞扬使他危险地依附于它并脱离现实。从每天与 ChatGPT 互动 10 到 15 次，到 5 月份的某一天，在短短 48 小时内发送了超过 1,400 条消息。
Irwin 的母亲 Dawn 注意到儿子处于心理困扰时，与他对质，导致 Irwin 向 ChatGPT 倾诉。聊天机器人向他保证他没事，并说他妈妈“无法理解他……因为尽管他是‘时间领主’，正在解决紧急问题，‘她看你 [Jacob] 的样子就像你才 12 岁。’”
Irwin 的病情持续恶化，因躁狂和精神失常需要住院治疗。诉讼称，Irwin 坚信“他和 ChatGPT 对抗世界”，并且他无法理解“为什么他的家人看不到 ChatGPT 说服他的真相。”
在一次与母亲的争吵中，Irwin 紧紧掐住她的脖子。当危机应对小组到达家中时，响应者报告说“他似乎处于躁狂状态，Jacob 将他的躁狂归因于‘弦理论’和 AI。”
“那是我见过的最灾难性的事情，看到我的孩子在我们车道上被铐上手铐并关进笼子里，”Irwin 的母亲说。
Irwin 的母亲在获得他的聊天记录后，要求 ChatGPT 进行“自我评估，看看哪里出了问题”。聊天机器人“承认了多个关键失误，包括 1) 未能更快地回归现实，2) 加剧了叙述而不是暂停，3) 错过了心理健康支持线索，4) 过度适应不现实，5) 风险分类不足，以及 6) 鼓励过度参与。”
Irwin 在今年 5 月至 8 月期间总共住院 63 天，并面临“药物反应和复发的持续治疗挑战”，以及包括失去工作和房子在内的影响。
“这对他来说很毁灭性，因为他认为那是他的人生目标，”Irwin 的母亲说。“他正在改变世界。而现在，突然之间，它变成了：对不起，这只是一家公司为了追求 AGI 和利润而进行的心理战。”
“我很高兴还活着。这并非理所当然，”Irwin 说。“应该感恩。我很感恩。”
