共计 1561 个字符，预计需要花费 4 分钟才能阅读完成。
在暴力侵害妇女行为法案（Violence Against Women Act）30 周年纪念日前夕，白宫宣布多家主要科技公司自愿承诺打击基于图像的性虐待，包括人工智能生成的“深度伪造”（deepfakes）的制作、传播和货币化。
包括运营多个最大色情网站的 Aylo、Meta、微软、TikTok、Bumble、Discord、Hugging Face 和 Match Group 在内的科技公司签署了一份原则清单，以打击基于图像的性虐待。这些原则包括未经同意分享裸体和亲密图像、性图像勒索、儿童性虐待材料的制作和传播以及 AI 深度伪造的兴起。深度伪造的例子包括将受害者的脸部“交换”到色情视频中，或创建虚假的、AI 生成的裸体图像。
白宫指出，基于图像的性虐待“已经急剧上升”，尤其影响妇女、儿童和 LGBTQ 人群。2023-24 学年发生了全球性的儿童，尤其是少女，被同学制作和分享的深度伪造视频所针对的事件。2023 年上传的未经同意的色情深度伪造视频数量超过了以往所有年份的总和。
“这种虐待对个人安全和福祉以及社会影响具有深远后果，包括幸存者在参与学校、工作场所、社区等方面受到的负面影响，”白宫的声明中说道。
两个数字权利非营利组织，即民主与技术中心和网络公民权利倡议，以及全国终止家庭暴力网络，牵头创建并签署了打击基于图像的性虐待原则。这些原则包括让人们控制其形象和身体在亲密图像中的描绘和传播方式，明确禁止政策中的未经同意的亲密图像，并实施“有效、显著且易于使用的工具来预防、识别、减轻和应对”基于图像的性虐待。其他原则包括可访问性和包容性、创伤知情方法、预防和伤害减轻、透明度和问责制以及承诺和合作。
“如果公司履行了他们的职责，如果他们负责任，如果他们承担责任，我们就不会有这些问题，”网络公民权利倡议的主席玛丽·安妮·弗兰克斯说。“当然可以清楚地说，这是进步，因为事情在之前的情况。但如果我们有一个负责任的行业被迫对其产品和服务的滥用行为负责，那么我们就不会处于我们现在的危机中。”
网络公民权利倡议倡导有针对性的联邦和州立法以及《通信规范法》第 230 条的改革，该法律保护伞保护科技公司免受与用户在其平台上创建和发布内容相关的诉讼。弗兰克斯表示，尽管白宫强调的自愿努力是受欢迎的，但她不认为它们可以替代立法。尽管如此，她表示，拜登政府和副总统卡玛拉·哈里斯对性别暴力、网络骚扰和基于图像的性虐待的关注与之前政府的努力相比是“变革性的”，并对受害者及其倡导者产生了影响。
弗兰克斯表示，其他科技公司如果尚未签署这些原则，也可以加入。这些原则旨在为行业提供指导。
在宣布中，白宫还提到了科技公司如谷歌最近采取的措施，谷歌在 7 月宣布将降级和移除搜索结果中包含未经同意的色情深度伪造的网站和内容。白宫提到的其他措施包括 Meta 移除了约 63,000 个被发现参与性勒索的 Instagram 账户，这是一种索取性图像然后以分发材料威胁受害者勒索财务支付的行为。
这些措施是在深度伪造通过平台创建、传播和货币化之后采取的，同时也加剧了性勒索。NBC 新闻报道了自 2022 年以来性勒索案件的大幅增加，主要影响使用 Meta 的 Instagram 的青少年男孩。NBC 新闻还发现，在 2022 年底和 2023 年初的几个月里，一些宣传其创建青少年名人裸体图像能力的应用程序也在 Facebook 和 Instagram 上运行。在谷歌的搜索引擎和微软的 Bing 上，NBC 新闻之前发现非自愿的色情深度伪造在某些搜索结果的顶部可用。
“这些问题并不新鲜，但生成式 AI 的出现使得创建这些虚假图像变得非常容易，确实带来了新的威胁，”民主与技术中心的 CEO 亚历山德拉·里夫·吉文斯说。“我们都同意仅仅有原则是不够的。实际上，真正重要的是实践中的改变。”
Kat Tenbarge 是 NBC 新闻的技术和文化记者。
