共计 1236 个字符,预计需要花费 4 分钟才能阅读完成。
近日,Meta 公司提出了一项颇具争议的要求:访问用户手机相册中的所有照片,包括那些尚未上传到任何平台的照片。然而,对于这些照片的具体用途,Meta 却表现得极其含糊,引发了广泛的担忧。
据_The Verge_报道,Meta 公司拒绝排除使用用户手机相册中的照片来训练其 AI 模型的可能性,仅能保证其“目前”没有这样做。这一举动无疑凸显了 AI 行业对干净、无 AI 污染的训练数据来源的极度渴望。
上周,Facebook 开始向用户展示一个提示,要求他们选择加入“云端处理”。如果用户同意,Facebook 将能够“定期”从用户的相册中获取内容并上传到其服务器,以便生成照片的摘要和“AI 重制版”。然而,选择加入意味着用户同意 Meta 的 AI 条款,其中规定 Meta 将有权使用 AI 分析这些图像,包括面部特征,并保留和使用与其 AI 系统共享的信息。
这一要求无疑引起了广泛警觉。任何输入 AI 系统的数据都有可能以某种形式被复制或再现,而要求访问整个相册以便 Meta 的技术能够“分析”用户的照片,无疑是一种巨大且具有侵入性的升级。Meta 甚至提出这样的要求,令人感到无耻。
值得注意的是,Meta 的 AI 条款并未明确说明其用于“云端处理”的未发布相册照片是否不会被用于 AI 训练。这与 Google Photos 等应用的条款形成鲜明对比,后者明确表示用户的个人信息不会被用作训练数据。
当被要求发表评论时,Meta 拒绝透露未来计划如何使用这些数据。Meta 公共事务经理 Ryan Daniels 表示:“_The Verge_的标题暗示我们目前正在使用这些照片训练我们的 AI 模型,但我们并没有这样做。此测试并未使用人们的照片来改进或训练我们的 AI 模型。”Meta 传播经理 Maria Cubeta 则在一份声明中表示:“这些建议仅在选择加入后显示给用户——除非用户决定分享它们——并且可以随时关闭。相册中的媒体可能会用于改进这些建议,但在此测试中不会用于改进 AI 模型。”
尽管 Meta 表示选择加入后,其将获得一次获取 30 天未发布相册内容的权限,而不是一次性获取所有内容,但条款还规定,其 AI 的某些“建议”可能会针对超过 30 天的照片进行。
科技公司已经几乎从整个互联网表面抓取了数据。这已经够糟糕了,但唯一的安慰是,这些数据至少表面上——而不是实际上——是人们有意识地选择公开的内容。现在,Meta 正在朝着消除这一薄弱的屏障迈出一大步,并可能使人们披露未发布内容成为常态,同时假装这些内容仍然安全地保存在他们的相册中。这表明科技行业对其 AI 模型的新鲜“脑粮”有多么渴望,这些模型正面临崩溃的威胁,因为它们当前的饮食越来越依赖于 AI 生成的内容,而获取纯人类制作的内容变得越来越困难。
虽然目前可能不会进行训练,但 Meta 肯定正在让其 AI 处理用户相册和社交媒体资料中的内容。在报道中,_TechCrunch_发现一些 Facebook 用户抱怨他们的旧照片被自动转换为动漫风格的图像,使用了 Meta AI。这一现象无疑加剧了人们对隐私和数据安全的担忧。