共计 821 个字符，预计需要花费 3 分钟才能阅读完成。
随着 AI 聊天机器人安全问题的日益突出，尤其是针对年轻用户的保护需求，OpenAI 近日宣布了 ChatGPT 的全新青少年安全功能。这些功能包括年龄预测系统和身份证年龄验证，旨在为未成年人提供更安全的在线体验。
OpenAI CEO Sam Altman 在 2024 年 Microsoft Build 大会上详细介绍了这些新措施。他表示：“我们始终将青少年的安全置于隐私和自由之上。ChatGPT 是一项强大且新颖的技术，因此我们认为未成年人需要得到充分的保护。”
Altman 在博客文章中进一步解释，OpenAI 正在开发一个系统，该系统将自动将用户分类到两个不同版本的 ChatGPT 中：一个针对 13 至 17 岁的青少年，另一个针对 18 岁及以上的成年人。“如果有疑问，我们将采取保守策略，默认提供 18 岁以下的体验，”Altman 写道。
在某些国家或特定情况下，OpenAI 还可能要求用户提供身份证以验证年龄。Altman 承认这对成年人来说是一种隐私妥协，但他认为这是一个值得的权衡。
这一消息发布之际，正值参议院司法委员会举行关于 AI 聊天机器人潜在危害的听证会。上个月，一个家庭起诉了 OpenAI，称 ChatGPT 充当了“自杀教练”的角色，并导致了他们儿子的死亡。
OpenAI 还表示，将在本月底推出家长控制功能，让家长能够指导 ChatGPT 如何回应他们的孩子，并调整记忆和禁用时间等设置。Altman 强调，ChatGPT 并不适合 12 岁以下的用户，尽管目前没有防止儿童使用它的安全措施。
关于自杀的讨论，Altman 表示，ChatGPT 不应默认提供关于如何自杀的指导，但如果成年用户请求帮助撰写描述自杀的虚构故事，模型应该帮助完成这一请求。如果被 OpenAI 的年龄估计程序标记的人表达了自杀念头，该公司将尝试联系用户的父母，如果无法联系到，将在即将发生伤害的情况下联系当局。
“我并不期望每个人都会同意这些权衡，但鉴于冲突的存在，解释我们的决策过程很重要，”Altman 在 X 上写道。
