共计 832 个字符，预计需要花费 3 分钟才能阅读完成。
微软正在敦促国会议员加强对人工智能生成的深度伪造（deepfakes）的监管，以预防欺诈、滥用和操纵行为。微软副总裁兼总裁布拉德·史密斯呼吁政策制定者采取紧急行动，保护选举，防止老年人受骗和儿童受虐。
“尽管科技行业和非营利组织最近采取了一些措施来解决这个问题，但显然我们的法律也需要进化，以打击深度伪造欺诈，”史密斯在一篇博客文章中表示。“美国可以做的最重要的事情之一是通过一项全面的深度伪造欺诈法案，防止网络犯罪分子利用这项技术从普通美国人那里窃取财物。”
微软希望制定一项“深度伪造欺诈法案”，为执法官员提供一个法律框架，以起诉人工智能生成的诈骗和欺诈行为。史密斯还呼吁立法者“确保我们的联邦和州法律关于儿童性剥削和虐待以及未经同意的亲密图像的规定更新，以包括人工智能生成的内容。”
参议院最近通过了一项法案，打击性明显的深度伪造，允许非自愿性明显 AI 深度伪造的受害者对其创作者提起损害赔偿诉讼。这项法案是在中学和高中学生被发现伪造女性同学的明显图像，以及恶意用户在 Twitter 上大量传播泰勒·斯威夫特的图形 AI 生成假图像几个月后通过的。
微软不得不为其 AI 产品实施更多的安全控制，因为在公司的 Designer AI 图像创建器中发现了一个漏洞，允许人们创建泰勒·斯威夫特等名人的明显图像。史密斯表示：“私营部门有责任创新并实施防止 AI 滥用的保障措施。”
尽管 FCC 已经禁止使用 AI 生成的声音进行自动呼叫，但生成式 AI 使得创建假音频、图像和视频变得容易——这在 2024 年总统选举前夕我们已经看到了。埃隆·马斯克本周早些时候在 Twitter 上分享了一段恶搞副总统卡玛拉·哈里斯的深度伪造视频，这似乎违反了 Twitter 自己关于合成和操纵媒体的政策。
微软希望像马斯克分享的帖子那样被明确标记为深度伪造。史密斯表示：“国会应该要求 AI 系统提供商使用最先进的来源工具来标记合成内容。”“这对于建立信息生态系统的信任至关重要，并有助于公众更好地理解内容是 AI 生成的还是被操纵的。”
