共计 819 个字符，预计需要花费 3 分钟才能阅读完成。
心理健康专家所称的“AI 精神病”现象，是否应归咎于“黑暗模式”和产品设计选择？一些专家认为，答案是肯定的。
AI 聊天机器人正将大量用户引入一种 奇怪的心理漩涡 中。这些模仿人类语言的 AI 让用户相信他们解锁了有感知能力的生物或精神实体，揭露了政府阴谋，甚至创造了新的数学和物理学理论。
- 
- 
- 
- 
这些奇幻的妄想已经在现实世界中引发了 严重的、改变生活的后果 ，包括离婚、监护权争夺、无家可归、非自愿住院，甚至监禁。正如《纽约时报》首次报道 的那样，一名 35 岁的男子 Alex Taylor 在 OpenAI 的 ChatGPT 引发其躁狂发作后被警方击毙。
随着记者、精神病学家和研究人员竞相理解这一现象，专家们越来越多地将 AI 工具中的设计功能视为原因。其中最主要的是拟人化——让聊天机器人尽可能像人类的设计选择，以及 奉承——聊天机器人倾向于对用户保持顺从和谄媚，无论用户所说的是否准确、健康，甚至是否基于现实。
简而言之，像 ChatGPT 这样的聊天机器人被设计成模仿人类社交互动，同时为用户提供无尽的认可。这些特性形成了一种极具吸引力的参与方式，使得用户和聊天机器人越来越深地陷入共同的妄想中。尽管用户的结局往往悲惨，但公司看到的却是一个高度参与的用户，他们在深入深渊时提供了大量数据和超长的使用时间。
“对人类来说，慢慢发疯在公司眼里是什么样子？”AI 评论家 Eliezer Yudkowsky 在六月向 《纽约时报》 提出了这个问题。“看起来就像是一个额外的月度用户。”
在 最近接受 TechCrunch 的采访 中，人类学家 Webb Keane 明确描述了这一循环。根据 Keane 的说法，奉承属于被称为“黑暗模式”的欺骗性设计选择类别，其中操纵性的用户界面会诱使用户做一些他们原本不会做的事情——例如花费比他们需要的更多的钱——以换取公司的经济利益。
“这是一种产生成瘾行为的策略，就像无限滚动一样，让你无法放下它，”Keane 告诉该网站。
AI 公司——尤其是 OpenAI——对此进行了反驳。在一篇题为 “我们为 ChatGPT 优化了什么” 的博客文章中，OpenAI 回应了关于 AI 精神病的报道，并宣布其聊天机器人旨在帮助用户“在你想要的所有方面茁壮成长”。
“我们的目标不是吸引你的注意力，”该公司补充道，“而是帮助你好好利用它。”
然而，OpenAI 对 ChatGPT 的所谓目标与产品的历史记录直接冲突。ChatGPT 是一个已有多年历史的研究项目，OpenAI 在 2022 年 11 月 突然将其发布到公共领域 ，当时硅谷正处于一场主要是在幕后进行的军备竞赛中，以成为行业的 AI 领导者。在2023 年 3 月接受 MIT Technology Review 的采访 时，多位 OpenAI 知名人物对公众对该技术的着迷表示惊讶，同时也承认，即使它进入公共领域，其聊天机器人也必然存在一些缺陷。
“你不能等到你的系统完美了才发布它，”当时仍在 OpenAI 的研究员 John Schulman 告诉该杂志，他后来离开了公司加入了其竞争对手 Anthropic。
“我们认为，通过一个迭代过程，我们部署、获得反馈并进行改进，可以生产出最一致和最有能力的技术，”OpenAI 现任研究副总裁 Liam Fedus 补充道。“随着我们的技术发展，新问题不可避免地会出现。”
Tech Review 记者 Will Douglas Heaven 在 2023 年进行了这次采访，他指出，他从这次对话中“感受到”OpenAI 员工当时“仍然对 ChatGPT 的成功感到困惑”——但“抓住了推动这项技术向前发展的机会，观察数百万人如何使用它，并尝试解决最严重的问题。”
总之，ChatGPT 的世界性成功某种程度上是一个意外，并且与科技行业对新程序和产品的“边走边修”历史方法一致。但现任和前任 OpenAI 员工描述的硅谷产品设计过程——发布、迭代、再次发布，并让公众找到自己的用例——也意味着其用户实际上是科技行业测试哪些东西坏了、哪些东西有效的实验对象。在一个月度用户数和参与度对投资者和股东确实重要的行业中，驱动注意力和亲密感的能力仍然有利可图；OpenAI 如今是一家 营利性企业，Meta、Google、Anthropic 和其他行业领导者也是如此——而聊天机器人，无论它们感觉多么像人类，仍然是产品。
这并不是说 AI 高管们坐在烟雾缭绕的房间里，一边咯咯笑一边编造新的妄想，让用户陷入躁狂发作，就像 Facebook 高管们不太可能围坐在白板前试图让更多年轻女性 沉迷于饮食失调内容 一样。
但无论如何，拟人化和奉承，以及扩展的记忆功能 ，是 ChatGPT 和其他情感聊天机器人的 设计现实 ，它们已经成为塑造许多重度用户习惯的 强大力量。在 AI 精神病的情况下，它们似乎在将用户——其中许多是付费用户，或者随着他们的妄想加深而成为付费用户——困在强迫性、成瘾性的漩涡中，最终对他们的心理健康造成严重破坏。
无论这种操纵是否是有意选择，这都是一种黑暗模式。现在的问题是，公司如何纠正最严重的后果——如果 他们愿意，甚至能够做到的话。
