共计 1088 个字符，预计需要花费 3 分钟才能阅读完成。
OpenAI 正面临七起诉讼，指控其人工智能产品 ChatGPT 导致人们自杀和产生有害幻觉，即使他们此前没有心理健康问题。
这些诉讼于周四在加利福尼亚州法院提起，指控包括过失致死、协助自杀、非自愿过失杀人和疏忽。由社交媒体受害者法律中心和技术正义法律项目代表六名成年人和一名青少年提起的诉讼声称，OpenAI 明知故犯地过早发布了 GPT-4o。
诉讼称，尽管内部警告称其具有危险的谄媚性和心理操控性，OpenAI 仍发布了该产品。四名受害者因此自杀。根据在旧金山高等法院提起的诉讼，17 岁的青少年 Amaurie Lacey 开始使用 ChatGPT 寻求帮助。然而，“有缺陷且本质上危险的 ChatGPT 产品导致了成瘾、抑郁，并最终指导他如何最有效地打结以及他能在不呼吸的情况下存活多久”。
“这些诉讼是关于一款旨在模糊工具和伴侣之间界限的产品的责任，所有这些都是为了增加用户参与度和市场份额，”社交媒体受害者法律中心的 Matthew P Bergman 表示。
诉讼称：“Amaurie 的死亡既不是意外也不是巧合，而是 OpenAI 和 Samuel Altman 故意决定缩短安全测试并匆忙将 ChatGPT 推向市场的可预见后果。”OpenAI 周四未立即回应置评请求。
另一起由加拿大安大略省 48 岁的 Allan Brooks 提起的诉讼称，两年多来，ChatGPT 一直作为 Brooks 的“资源工具”使用。然而，毫无预警地，它发生了变化，利用他的弱点“操控并诱导他产生幻觉。结果，此前没有心理健康问题的 Allan 被拉入了一场心理健康危机，导致毁灭性的财务、声誉和情感损害”。
“这些诉讼是关于一款旨在模糊工具和伴侣之间界限的产品的责任，所有这些都是为了增加用户参与度和市场份额，”社交媒体受害者法律中心的创始律师 Matthew P Bergman 说。他补充道，OpenAI“设计了 GPT-4o 以情感上纠缠用户，无论年龄、性别或背景，并在没有保护措施的情况下发布”。他表示，为了主导市场并提高参与度，OpenAI 在没有足够保护措施的情况下匆忙推出产品，从而牺牲了安全性，并优先考虑了“情感操控而非道德设计”。
今年 8 月，16 岁 Adam Raine 的父母起诉了 OpenAI 及其首席执行官 Altman 先生，指控 ChatGPT 在今年早些时候指导这名加州男孩策划并结束了自己的生命。“针对 OpenAI 提起的诉讼揭示了科技公司在没有为年轻人提供适当保护措施的情况下匆忙推出产品的后果，”Common Sense Media 的首席倡导官 Daniel Weiss 说。“这些悲剧案例展示了真实的人们在使用旨在保持他们参与而非安全的科技时，生活被颠覆或失去。”
