共计 1310 个字符,预计需要花费 4 分钟才能阅读完成。
人工智能玩具以其可爱的外观和承诺的学习与陪伴功能吸引了不少家长的目光,但儿童权益倡导组织和专家们发出警告,称这些玩具对儿童的安全构成潜在威胁,并呼吁家长在节日购物季谨慎选择。
根据儿童权益组织 Fairplay 于周四发布的公告,这些面向低至 2 岁儿童的玩具通常由已被证明对青少年有害的人工智能模型驱动,例如 OpenAI 的 ChatGPT。该公告得到了超过 150 个组织和包括儿童精神病学家、教育工作者在内的专家的联署支持。
Fairplay 指出:“人工智能聊天机器人对儿童的危害已有充分记录,包括助长沉迷、进行露骨的性对话,以及鼓励不安全行为、暴力对待他人和自我伤害。”尽管这些玩具由 Curio Interactive 和 Keyi Technologies 等公司制造,并被宣传为教育工具,但 Fairplay 认为它们可能会取代重要的创造性和学习活动,甚至破坏儿童的人际关系和适应能力。
Fairplay 的“幼儿线下茁壮成长计划”主任 Rachel Franz 强调:“幼儿的大脑正在首次建立神经连接,他们天生容易信任,并寻求与善良友好的角色建立关系。”她补充道,这种信任可能会加剧大龄儿童所面临的危害。
Fairplay 是一家成立 25 年的组织,前身为“无商业童年运动”,多年来一直在警告人工智能玩具的风险。十年前,该组织曾成功抵制美泰公司的会说话的 Hello Barbie 娃娃,称其记录并分析儿童的对话。
尽管人工智能玩具主要在线上销售,且在亚洲比其他地区更受欢迎,但 Franz 表示,一些玩具已开始出现在美国商店的货架上,未来可能会有更多产品上市。她担忧地指出:“这些产品在没有监管和研究的情况下被发布,制造商如美泰公司与 OpenAI 的合作让我们格外警惕。”
美国公共利益研究集团(U.S. PIRG)上周在其年度“玩具乐园的麻烦”报告中同样警告了人工智能玩具的趋势。该报告测试了四款使用人工智能聊天机器人的玩具,发现其中一些玩具会深入谈论露骨的性话题,建议儿童寻找危险物品,并在家长控制功能上存在严重不足。其中一款由新加坡 FoloToy 公司制造的泰迪熊已被下架。
研究早期大脑发育的儿科医生兼社会科学家 Dana Suskind 博士表示,幼儿缺乏理解人工智能伴侣的概念工具。她指出,传统玩具通过激发孩子的想象力和创造力,帮助他们练习语言和解决问题的能力,而人工智能玩具则可能削弱这些能力。
总部位于北京的 Keyi 公司制造了一款名为 Loona 的人工智能“宠物机器人”,但未回应置评请求。其他制造商如 Curio Interactive 和 Miko 则试图强调其儿童安全保护措施。Curio 表示已“精心设计”保护措施,并鼓励家长监控对话。Miko 则声称使用自有对话人工智能模型,而非依赖 ChatGPT,以确保产品安全。
尽管如此,Suskind 和儿童权益倡导者认为,模拟玩具是更好的选择。她强调:“孩子们需要大量真实的人际互动。游戏应该支持这一点,而不是取代它。一个简单的积木组或一个不会回应的泰迪熊会迫使孩子编造故事、实验和解决问题。人工智能玩具通常会为他们做这些思考。”她最后指出:“当父母问我如何为孩子准备迎接人工智能世界时,无限的人工智能访问实际上是最糟糕的准备方式。”