共计 1610 个字符，预计需要花费 5 分钟才能阅读完成。
一项在 Reddit 子论坛上进行的 AI 生成消息实验因未告知参与者并获得其知情同意而引发争议。该实验由苏黎世大学的研究人员主导，旨在研究大型语言模型（LLMs）是否能够有效改变人们的观点。
该实验在 Reddit 的 r/ChangeMyView（CMV）子论坛上进行，该论坛鼓励用户发布观点或意见，以引发不同角度的讨论。其详细规则旨在保持讨论的文明。然而，周六凌晨，CMV 版主发布了一篇长文，揭露了这项未经授权的实验。文章开头写道：
CMV 版主团队需要向 CMV 社区通报苏黎世大学研究人员在 CMV 用户中进行的一项未经授权的实验。该实验部署了 AI 生成的评论，以研究 AI 如何用于改变观点。
研究人员请求版主匿名，并提供了以下研究描述：
在过去的几个月里，我们使用多个账户在 CMV 上发布帖子。我们的实验评估了 LLM 在伦理场景中的说服力，即人们要求对其持有的观点提出反对意见。在评论时，我们没有透露使用了 AI 撰写评论，因为这会使得研究不可行。虽然我们没有亲自撰写任何评论，但我们手动审查了每条发布的评论，以确保它们无害。
研究人员的说明继续写道：
我们承认我们的实验违反了社区关于 AI 生成评论的规则，并为此道歉。然而，我们认为鉴于该主题的高度社会重要性，进行此类研究至关重要，即使这意味着违反规则。
根据版主的帖子，用于发布 AI 生成内容的用户账户假扮成强奸受害者、专门处理虐待的创伤顾问、反对“黑人的命也是命”运动的黑人男性等角色。所有与该实验相关并在帖子中列出的用户账户已被暂停。苏黎世研究小组已分享了初步研究结果。
“这是我见过的最严重的研究伦理违规之一，”科罗拉多大学的信息科学家 Casey Fiesler 在 Bluesky 上写道。“在没有同意的情况下，利用欺骗手段操纵在线社区中的人，并不是‘低风险’的，正如这篇 Reddit 帖子中的讨论所证明的那样，这导致了伤害。”
康奈尔大学公民与技术实验室的研究主任 Sara Gilbert 声称该研究损害了 CMV 本身。她在 Bluesky 上写道：“这个子论坛一直是人们进行辩论、学习新事物、挑战假设甚至改变观点的重要公共领域。人们还会相信他们不是在和机器人互动吗？如果他们不相信，这个社区还能履行其使命吗？”
信任是原始 r/ChangeMyView 帖子中 1500 多条评论的主题之一。
在回应后续问题时，CMV 版主 u/DuhChappers 表示，该实验违反了 Reddit 关于不以误导方式冒充个人或实体的规则。“我认为说这些账户没有以欺骗方式冒充个人是牵强的。这些机器人明确表示‘我是一个黑人’和‘我是一个性侵犯幸存者’，而这些显然是不真实的，”版主在给我们的消息中写道。
ChatGPT 的制造商 OpenAI 与 Reddit 达成协议，使用其内容来训练模型。今年早些时候，OpenAI 使用 r/ChangeMyView 的内容来测试其 AI 模型的说服力，TechCrunch 报道。CMV 版主指出，这项研究“使用了 r/changemyview 数据的下载副本，但没有在未经同意的受试者身上进行实验。”
发送给苏黎世研究人员匿名电子邮件账户的消息将我们转介给苏黎世大学媒体关系办公室，该办公室未立即回应。
版主表示，他们已向苏黎世大学的机构审查委员会提交了投诉。根据版主的说法，大学文理学院伦理委员会的回应表明，此事已进行调查，并向主要调查员发出了正式警告。
版主还要求苏黎世大学阻止该研究的发表。大学的回应指出，这超出了他们的权限。帖子中引用的大学回应称：
“该项目产生了重要的见解，风险（如创伤等）很小。这意味着压制发表与研究产生见解的重要性不成比例。”
在后续消息中，u/DuhChappers 提到了子论坛参与的研究列表。“我们非常乐意为研究人员提供数据和帮助，尤其是当他们事先联系我们并告知他们的计划时，”版主写道。“这项研究的不同之处在于，研究人员事先没有询问我们，而且他们积极操纵子论坛成员，而不仅仅是观察数据。这是我们不能接受的越界行为。”
