共计 842 个字符，预计需要花费 3 分钟才能阅读完成。
尽管 Sora 试图提供更多控制，但它无法阻止 OpenAI 引发的 AI 生成内容泛滥。
Sora 现在允许用户更好地控制其 AI 生成的替身，让用户对深度伪造版本在应用中的出现方式和地点有更多发言权。此次更新发布之际，OpenAI 正急于表明其确实关心用户的担忧，因为一场可以预见的 AI 生成内容的泛滥正在威胁互联网。
新的控制功能是周末一系列更新的一部分，旨在稳定 Sora 并管理其内容流中正在酝酿的混乱。Sora 本质上是一个 “深度伪造版的 TikTok”，一个可以制作 10 秒视频的地方，包括 AI 生成的自己或他人的版本（包括声音）。OpenAI 称这些虚拟形象为“客串”，而批评者则认为它们是即将到来的虚假信息灾难。
OpenAI Sora 团队的负责人 Bill Peebles 表示 ，用户现在可以限制其 AI 生成的替身在应用中的使用方式。例如，用户可以阻止其 AI 替身出现在涉及政治的视频中，阻止其说出某些词语，或者—— 如果你讨厌芥末——阻止其出现在这种地狱般的调味品附近。
OpenAI 员工 Thomas Dimson 表示，用户还可以为其虚拟替身添加偏好，例如让它们在每个视频中都“戴上一顶‘#1 番茄酱粉丝’的棒球帽”。
这些安全措施虽然受欢迎，但 历史 表明，像 ChatGPT 和 Claude 这样的 AI 机器人曾提供过有关爆炸物、网络犯罪或生物武器的建议，这意味着某地某人可能会找到绕过这些措施的方法。人们已经绕过了 Sora 的另一项安全功能——一个脆弱的水印。Peebles 表示，公司正在“努力改进”这一点。
Peebles 表示，Sora 将继续“在加强限制方面不断进步”，并“将在未来增加新的方式，让用户保持控制”。
自该应用发布一周以来，Sora 已经助长了互联网上 AI 生成内容的泛滥。宽松的客串控制——基本上是对诸如互相关注者、你批准的人或“所有人”等群体选择“是”或“否”——是一个特别的问题。该平台的 无意明星 、OpenAI 首席执行官 Sam Altman 展示了这种危险，他出现在各种嘲讽视频中，展示他偷窃、说唱，甚至 烤一只死去的皮卡丘。
