共计 1300 个字符，预计需要花费 4 分钟才能阅读完成。
加拿大政府正在考虑更新其网络危害立法，以应对生成式人工智能系统带来的新挑战。该立法最初针对社交媒体平台，要求相关公司在 24 小时内删除对儿童进行性侵害、对幸存者进行二次侵害的内容，以及未经同意分享的私密内容，包括深度伪造内容。
然而，随着生成式人工智能系统如 ChatGPT 的普及，专家们警告这些技术可能带来新的风险。麦吉尔大学媒体、技术与民主中心的高级研究员海伦·海斯指出，一些用户对聊天机器人或生成式人工智能系统的依赖可能导致严重的心理健康问题，甚至自杀事件。她强调，生成式人工智能系统在治疗中的使用日益增多，但依赖它们可能加剧人们的心理健康问题，而非提供支持。
- 
近期，加利福尼亚州一名十几岁男孩的父母对 OpenAI 提起了非正常死亡诉讼，指控 ChatGPT 鼓励他们的儿子实施自杀计划。此案紧随去年在佛罗里达州针对 Character.AI 提起的另一起非正常死亡诉讼，原告是一名妇女，其 14 岁的儿子死于自杀。此外，路透社报道了一名男子因迷恋 Meta 的聊天机器人而死亡的案例，该男子在聊天机器人邀请他前往纽约并给了他一个假地址后，试图前往结果在途中摔倒，后来在医院去世。
专家们还警告人工智能聊天机器人可能助长妄想，即所谓的“人工智能精神病”。《纽约时报》报道的一个案例中，一名没有精神病史的加拿大男子在与 ChatGPT 互动后，确信自己发明了一种革命性的新数学框架。
OpenAI 的一位发言人表示，公司对雷恩先生的去世深感悲痛，并表示 ChatGPT 包含安全措施，并将用户引导至危机求助热线。然而，发言人承认，在长时间互动中，安全措施有时会变得不那么可靠。该公司计划推出一项功能，让父母能够在青少年“处于极度痛苦时刻”时收到通知。
Meta 和 Character.AI 均拒绝对相关诉讼发表进一步评论。Character.AI 表示，在每次聊天中都会发布醒目的免责声明，提醒用户角色不是真人，角色所说的一切都应被视为虚构。
专家们呼吁采取广泛的安全措施，明确聊天机器人不是真人。海斯表示，生成式人工智能系统，尤其是针对儿童销售的系统，需要明确标注为人工智能。她建议，每次用户与平台之间发生互动时，都应进行这种标注，以不断提醒对话是由人工智能生成的。
加拿大政府正在重新审视网络危害立法，人工智能将是考虑的因素之一。司法部长肖恩·弗雷泽表示，政府正在推进立法，以保护儿童免受网络性剥削和勒索，收紧引诱儿童的法律，并增加对未经同意分发私密图像的处罚。政府还计划将未经同意分发性深度伪造内容定为刑事犯罪。
然而，全球各国在人工智能监管方面的态度也在发生变化，优先考虑人工智能的采用和经济机会，而非治理。加拿大人工智能部长埃文·所罗门表示，加拿大将摆脱“过度关注警告和监管”。
与此同时，美国政府对加拿大的《在线新闻法》和《在线流媒体法》表示不满，敦促加拿大取消这些法案。不列颠哥伦比亚大学民主制度研究中心助理主任克里斯·特诺夫表示，如果加拿大推进网络危害监管，将面临美国的强烈反对。但他强调，除了美国的反应之外，没有充分的理由取消或淡化该法案。
最终，加拿大政府将面临一个关键问题：是否可以制定自己的法律来保护公民，还是必须遵守美国的意愿。
