共计 894 个字符，预计需要花费 3 分钟才能阅读完成。
AI 初创公司 Anthropic 正在调整其政策，允许未成年人在某些情况下使用其生成式人工智能系统。
在公司官方博客周五发布的一篇文章中，Anthropic 宣布将开始允许青少年使用由其 AI 模型驱动的第三方应用，前提是这些应用的开发者实施特定的安全特性，并向用户披露他们正在利用哪些 Anthropic 技术。Anthropic 还列出了几项安全措施，供为未成年人创建基于 AI 的应用程序的开发者包括，如年龄验证系统、内容管控和过滤，以及为未成年人提供关于“安全和负责任”AI 使用的教育资源。使用 Anthropic 的 AI 模型的开发者还必须遵守适用的儿童安全和数据隐私法规，如《儿童在线隐私保护法案》（COPPA）。Anthropic 表示他们计划定期审核应用程序是否符合规定，暂停或终止那些多次违反合规性要求的账户，并要求开发者在面向公众的网站或文档上明确声明他们的合规性。
Anthropic 在文章中写道：“有一些特定的应用情况，AI 工具可以为年轻用户提供重大的好处，比如考试准备或辅导支持。考虑到这一点，我们更新的政策允许组织将我们的 API 整合到面向未成年人的产品中。”
Anthropic 政策的变化正值孩子和青少年越来越依赖生成式人工智能工具，不仅用于学业，还用于个人问题，同时，包括 Google 和 OpenAI 在内的竞争对手生成式人工智能供应商正探索更多面向儿童的用例。根据中央民主技术中心的一项调查，29% 的孩子报告使用生成式 AI 来应对焦虑或心理健康问题，22% 的孩子用于处理与朋友的问题，16% 用于家庭冲突。
去年夏天，学校和大学急忙禁止使用生成式 AI 应用程序，特别是 ChatGPT，由于担心抄袭和错误信息。此后，一些学校已经撤销了他们的禁令。但并非所有人都相信生成式 AI 的潜力带来正面影响，指出像英国安全互联网中心等调查发现，超过一半的孩子报告看到同龄人以消极方式使用生成式 AI，例如创建可信的虚假信息或图片来让某人烦恼。
关于孩子使用生成式 AI 的准则的呼吁日益增多。联合国教科文组织（UNESCO）去年底呼吁政府对教育中生成式 AI 的使用进行规范，包括对用户实施年龄限制、数据保护和用户隐私的保护措施。
