共计 967 个字符，预计需要花费 3 分钟才能阅读完成。
美国一些最大的 AI 公司已向白宫庄严承诺，防止其 AI 产品被用于生成未经同意的深度伪造色情内容和儿童性虐待材料。
Adobe、Anthropic、Cohere、Microsoft、OpenAI 和开源网络数据存储库 Common Crawl 各自做出了非约束性承诺，保护其产品不被滥用以生成虐待性图像，拜登政府在周四表示。
“基于图像的性虐待……包括 AI 生成的图像——已经激增，”白宫表示，“成为迄今为止 AI 最快速增长的危害用途之一。”
根据白宫的说法，上述六家 AI 组织都“承诺负责任地获取其数据集并保护其免受基于图像的性虐待。”
另外两项承诺缺乏 Common Crawl 的支持。Common Crawl 收集网络内容并将其提供给任何想要的人，此前已被指责为吸收了不良数据，这些数据已进入 AI 训练数据集。
然而，Common Crawl 不应与 Adobe、Anthropic、Cohere、Microsoft 和 OpenAI 一起列出，关于他们承诺“整合反馈循环和迭代压力测试策略……以防止 AI 模型输出基于图像的性虐待”，因为 Common Crawl 不开发 AI 模型。
另一项承诺从 AI 训练数据集中删除裸体图像“在适当且取决于模型目的时”似乎是 Common Crawl 应该同意的，但它不收集图像。
根据该非营利组织的说法，“Common Crawl 语料库包含原始网页数据、元数据提取和文本提取”，因此不清楚它在该条款下需要删除什么。
当被问及为何未签署这两项条款时，Common Crawl 基金会执行董事 Rich Skrenta 告诉 The Register，他的组织支持该倡议的更广泛目标，但仅被要求签署一项条款。
“我们在签署时并未被提供这三个选项，”Skrenta 告诉我们。“我假设我们被排除在第二和第三个条款之外，因为我们不进行任何模型训练或生产最终用户产品。”
这是 AI 领域的大牌玩家在一年多一点的时间里第二次向拜登政府做出自愿让步，这一趋势不仅限于美国。
2023 年 7 月，Anthropic、Microsoft、OpenAI、Amazon、Google、Inflection 和 Meta 都在白宫会面，并承诺测试模型、分享研究并给 AI 生成内容加水印，以防止其被用于非同意的深度伪造色情内容等。
目前尚无消息为何其他一些公司未签署昨天的承诺，该承诺与 2023 年的承诺一样，也是自愿且非约束性的。
