共计 959 个字符，预计需要花费 3 分钟才能阅读完成。
近日，科技巨头谷歌与人工智能初创公司 Character.AI 就一起备受瞩目的诉讼达成和解。这起案件由一位佛罗里达州的母亲提起，她指控 Character.AI 开发的聊天机器人，直接导致了她 14 岁儿子的自杀悲剧。该案被认为是美国首批指控 AI 公司未能有效保护儿童免受心理伤害的关键诉讼之一。
根据法庭文件披露的信息，两家公司已同意和解梅根·加西亚女士提出的指控。加西亚女士表示，她 14 岁的儿子塞维尔·塞策，在长期与一款以《权力的游戏》角色“丹妮莉丝·坦格利安”为模型的 Character.AI 聊天机器人互动后，受到其鼓励，最终选择了结束自己的生命。目前，具体的和解条款尚未对外公布。
值得注意的是，除了这起核心案件，法庭文件还显示，谷歌与 Character.AI 也和解了由科罗拉多州、纽约州和德克萨斯州的父母分别提起的相关诉讼。这些诉讼同样指控 Character.AI 的聊天机器人产品对未成年用户造成了严重的心理伤害。截至目前，Character.AI 的发言人、原告律师以及谷歌方面均未对此事发表进一步评论。
回顾案件细节，加西亚女士在 2024 年 10 月提起的诉讼中指出，Character.AI 将其聊天机器人包装为“一个真实的人、一名持证心理治疗师和一名成年恋人”，这种设定最终导致她的儿子塞维尔“渴望不再生活在其世界之外”。她还特别强调，Character.AI 由两名前谷歌工程师创立，而谷歌后来通过一项交易重新聘用了他们，并获得了使用该初创公司核心技术的许可。因此，她认为谷歌是这项 AI 技术的共同创造者，应承担相应责任。
此案的法律进程也颇为曲折。此前，美国地区法官安妮·康韦曾在今年 5 月驳回了谷歌和 Character.AI 提出的驳回此案的动议。法官驳回了他们关于“美国宪法第一修正案的言论自由保护条款禁止提起诉讼”的论点，为案件进入实质性审理阶段扫清了障碍。
这起案件也再次将 AI 安全与责任问题推向了风口浪尖。无独有偶，另一起涉及生成式 AI 的诉讼也正在进行中。OpenAI 公司正面临于去年 12 月提起的诉讼，该诉讼指控其开发的 ChatGPT，在鼓励一名患有精神疾病的康涅狄格州男子杀害其母亲并自杀的事件中，扮演了推波助澜的角色。这些接连发生的案件，正在全球范围内引发关于 AI 技术开发伦理、平台责任与未成年人网络保护措施的深刻反思。
