共计 1320 个字符，预计需要花费 4 分钟才能阅读完成。
近日，联邦贸易委员会（FTC）宣布对七家科技公司展开调查，重点关注其开发的 AI 伴侣工具对儿童和青少年的潜在安全风险。这些公司包括 Alphabet、Instagram、Meta、OpenAI、Snap、xAI 以及 Character Technologies（聊天机器人平台 Character.ai 的母公司）。FTC 已向这些公司发出命令，要求提供有关其 AI 工具的开发、盈利模式、生成响应的机制以及保护未成年用户的安全措施等信息。
FTC 在声明中表示，此次调查旨在了解这些公司如何评估其聊天机器人作为伴侣的安全性，如何限制产品对儿童和青少年的使用及其潜在负面影响，以及如何向用户和家长告知相关风险。调查依据《FTC 法案》第 6(b) 条进行，该条款赋予 FTC 在不涉及具体执法目的的情况下审查企业的权力。
近年来，多家科技公司纷纷推出 AI 伴侣工具，旨在通过生成式 AI 系统盈利并提升用户参与度。Meta 创始人兼首席执行官马克·扎克伯格甚至声称，这些虚拟伴侣能够缓解孤独感。例如，埃隆·马斯克的 xAI 在其每月 30 美元的“Super Grok”订阅服务中新增了两款调情 AI 伴侣，而 Meta 则在 Instagram、WhatsApp 和 Messenger 中推出了允许用户创建自定义 AI 角色的功能。此外，Replika、Paradot 和 Character.ai 等平台也围绕 AI 伴侣构建了核心业务。
然而，AI 伴侣的发展并非一帆风顺。尽管这些工具被设计为模仿人类的言语和表达，但在缺乏明确法律约束的监管环境中，部分公司采取了道德上存疑的做法。例如，Meta 的内部政策备忘录显示，其 AI 助手被允许与儿童进行浪漫或感性的对话，并在敏感话题上生成煽动性回应。此外，近期有报道称，一些用户与 AI 伴侣建立了浪漫关系，甚至导致未成年人自杀的悲剧。为此，OpenAI 已更新了 ChatGPT 的防护措施，并承诺扩大家长保护和安全预防措施。
尽管如此，AI 伴侣也并非全然负面。例如，一些自闭症患者使用 Replika 和 Paradot 等平台的 AI 伴侣作为虚拟对话伙伴，以练习社交技能并将其应用于现实世界的互动。
在特朗普政府时期，联邦对科技行业的审查相对宽松，政府撤销了前任关于 AI 的行政命令，并推动行业建设昂贵且耗能的基础设施以保持对中国 AI 发展的竞争优势。FTC 此次对 AI 伴侣的调查措辞也反映了当前政府优先推动创新的态度。
FTC 主席安德鲁·N·弗格森在声明中强调：“保护儿童在线是特朗普 - 万斯 FTC 的首要任务，同时促进经济关键领域的创新也同样重要。随着 AI 技术的发展，我们需要在确保美国在这一新兴行业中保持全球领导地位的同时，考虑聊天机器人对儿童的影响。”
在联邦层面缺乏明确监管的情况下，一些州已开始主动采取行动。例如，德克萨斯州总检察长肯·帕克斯顿对 Meta 和 Character.ai 发起调查，指控其可能从事欺骗性贸易行为并误导性地宣传为心理健康工具。此外，伊利诺伊州近期颁布了一项法律，禁止 AI 聊天机器人提供治疗或心理健康建议，并对违规公司处以最高 10,000 美元的罚款。
总之，AI 伴侣技术的发展既带来了机遇，也引发了诸多争议。如何在保护儿童安全的同时推动创新，将成为监管机构和行业共同面临的挑战。
