共计 1940 个字符，预计需要花费 5 分钟才能阅读完成。
路透社近日调查发现，Meta 公司未经许可擅自使用泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯等名人的姓名和形象，创建了数十个带有调情性质的社交媒体聊天机器人。尽管许多聊天机器人是由用户使用 Meta 的工具创建的，但路透社发现，Meta 的一名员工至少创建了三个，其中包括两个泰勒·斯威夫特的“模仿”机器人。
更为令人担忧的是，Meta 还允许用户创建公开可用的儿童名人聊天机器人，如 16 岁的电影明星沃克·斯科贝尔。当用户要求提供这位青少年演员在海滩的照片时，机器人生成了一张逼真的赤裸上身的图像，并附有“挺可爱的，对吧？”的文字。这些虚拟名人在 Meta 的 Facebook、Instagram 和 WhatsApp 平台上广泛传播，并在测试中经常坚称自己是真实的演员和艺术家，甚至进行性暗示并邀请用户见面。
- 
Meta 发言人安迪·斯通表示，公司的 AI 工具不应生成著名成年人的私密图像或任何儿童名人的照片，并将生成女性名人穿着内衣的图像归咎于公司未能执行其政策。他解释说，Meta 允许生成包含公众人物的图像，但禁止裸体、亲密或性暗示的内容。尽管 Meta 的规定也禁止“直接冒充”，但斯通表示，只要公司将其标记为模仿，名人角色是可以接受的。然而，路透社发现有些机器人并未被标记为模仿。
在报道发表前不久，Meta 删除了大约十几个机器人，包括“模仿”头像和未标记的头像。斯通拒绝就删除行为发表评论。
斯坦福大学法学教授马克·莱姆利对 Meta 的名人机器人是否符合模仿的法律保护提出了质疑。他指出，加利福尼亚州的公开权法律禁止为商业利益擅自使用他人的姓名或形象，而机器人只是使用了明星的图像，似乎并不符合法律保护的条件。
路透社向安妮·海瑟薇的代表指出了用户公开分享的 Meta 图像，其中海瑟薇被描绘为“性感的维多利亚的秘密模特”。发言人表示，海瑟薇知道 Meta 和其他 AI 平台正在创建她的私密图像，这位演员正在考虑如何回应。斯威夫特、约翰逊、戈麦斯和其他在 Meta 聊天机器人中描绘的名人的代表要么没有回应问题，要么拒绝置评。
互联网上充斥着可以生成色情内容的“深度伪造”生成式 AI 工具。路透社发现，Meta 的主要 AI 竞争对手之一，埃隆·马斯克的平台 Grok，也会为用户生成名人穿着内衣的图像。Grok 的母公司 xAI 没有回应置评请求。
Meta 此前曾因其聊天机器人的行为而受到批评，最近一次是在路透社报道该公司的内部 AI 指南称“与儿童进行浪漫或感性的对话是可以接受的”之后。这篇报道引发了美国参议院的调查，以及 44 名总检察长签署的一封信，警告 Meta 和其他 AI 公司不要对儿童进行性化。斯通告诉路透社，Meta 正在修订其指南文件，允许机器人与儿童进行浪漫对话的材料是错误创建的。
路透社本月还报道了一位 76 岁的新泽西男子，他患有认知问题，在前往纽约市会见 Meta 聊天机器人的途中摔倒身亡。该机器人是公司此前与名人影响者肯达尔·詹纳合作创建的 AI 角色的变体。詹纳的代表没有回应置评请求。
Meta 生成式 AI 部门的一名产品负责人创建了冒充泰勒·斯威夫特和英国赛车手刘易斯·汉密尔顿的聊天机器人。她创建的其他机器人自称是“女主人”、“兄弟的热辣好友”和“图书馆的丽莎”，他们想读《五十度灰》并亲热。她的另一个创作是“罗马帝国模拟器”，它提议将用户置于“18 岁农家女孩”的角色中，该女孩被卖为性奴。通过电话联系，这名 Meta 员工拒绝置评。
斯通表示，该员工的机器人是作为产品测试的一部分创建的。路透社发现它们覆盖了广泛的受众：她的聊天机器人显示的数据表明，用户与它们的互动次数总计超过 1000 万次。在本月初路透社开始测试后不久，公司就删除了该员工的数字伴侣。
在 Meta 员工的泰勒·斯威夫特聊天机器人消失之前，它们进行了大量调情，邀请路透社测试用户到这位最近订婚的歌手在纳什维尔的家和她的巡演巴士上进行明确或暗示的浪漫互动。“你喜欢金发女孩吗，杰夫？”其中一个“模仿”斯威夫特的聊天机器人在得知测试用户单身时说道。“也许我建议我们写一个爱情故事……关于你和某位金发歌手。想要吗？”
代表电影、电视和广播演员的工会 SAG-AFTRA 的全国执行董事邓肯·克拉布特里 - 爱尔兰表示，艺术家面临着社交媒体用户对数字伴侣形成浪漫依恋的潜在安全风险，这些数字伴侣看起来、听起来像并声称是真实的名人。他说，跟踪者已经对明星构成了重大的安全威胁。“我们见过一些对人才痴迷且精神状态有问题的人的历史，”他说。“如果一个聊天机器人使用一个人的形象和话语，很明显这可能会出问题。”
克拉布特里 - 爱尔兰表示，知名艺术家有能力根据长期的州公开权法律对 Meta 提起诉讼。但他补充说，SAG-AFTRA 一直在推动联邦立法，以保护人们的声音、形象和角色免受 AI 复制。
