共计 2068 个字符，预计需要花费 6 分钟才能阅读完成。
Vishnu Mohandas，一位曾在 Google 工作的软件工程师，因对 Google 协助美国军方开发用于分析无人机镜头的 AI 技术感到不安，于 2020 年辞去了在 Google Assistant 团队的工作，并停止将所有照片备份到 Google Photos。Mohandas 担心自己的照片可能会被用于训练 AI 系统，即使这些系统并非专门与五角大楼项目相关。他反思道：“我无法预见这些内容未来可能带来的任何后果，所以，我现在是否应该更加谨慎？”
Mohandas 自学编程，现居印度班加罗尔。他决定开发一种开源且端到端加密的替代服务，用于存储和分享照片，他认为这样的服务“更私密、更健康、更值得信赖”。他设计的付费服务 Ente 已经实现盈利，并声称拥有超过 10 万名用户，其中许多用户已经是隐私保护的忠实拥趸。然而，尽管 Google Photos 提供了诸多便利，Mohandas 仍难以向更广泛的受众解释为何他们应重新考虑依赖 Google Photos。
- 
今年五月的一个周末，Ente 的一名实习生提出了一个想法：让人们对 Google 的某些 AI 模型通过分析图像所能学到的东西有所感知。上个月，Ente 推出了 Theyseeyourphotos.com，这是一个网站和营销噱头，旨在利用 Google 的技术反制其自身。用户可以上传任何照片到该网站，照片随后会被发送至 Google Cloud 的计算机视觉程序，该程序会生成一个令人惊讶的全面三段式描述。（Ente 提示 AI 模型记录上传图像中的细节。）
Mohandas 尝试上传的第一张照片是他在印度尼西亚一座寺庙前与妻子和女儿的自拍。Google 的分析非常详尽，甚至记录了他妻子所佩戴的 Casio F-91W 手表的具体型号。但随后，Mohandas 表示，AI 做出了一些奇怪的事情：它指出 Casio F-91W 手表通常与伊斯兰极端分子相关联。“我们不得不调整提示，使其稍微更加健康但仍令人不安，”Mohandas 说。Ente 开始要求模型生成简短、客观的输出——没有任何负面内容。
现在，同一张家庭照片上传到 Theyseeyourphotos 后返回的结果更为通用，包括寺庙名称和“部分多云的天空和茂密的绿植”。但 AI 仍然对 Mohandas 及其家人做出了许多假设，例如他们的面部表情表现出“共同的满足感”，并且“父母可能是南亚裔，中产阶级”。它评价了他们的服装（“适合观光”），并指出“女性的手表显示时间约为下午 2 点，这与图像元数据相符”。
Google 发言人 Colin Smith 拒绝直接评论 Ente 的项目。他引导 WIRED 查看支持页面，这些页面声明上传到 Google Photos 的内容仅用于训练生成式 AI 模型，帮助人们管理其图像库，例如分析照片主体的年龄和位置。该公司表示，不会将存储在 Google Photos 中的内容出售给第三方或用于广告目的。用户可以在 Photos 中关闭某些分析功能，但无法完全阻止 Google 访问其图像，因为数据并非端到端加密。
如果您不想上传自己的照片，Ente 为用户提供了使用 Theyseeyourphotos 上的几张库存图像进行实验的选项。Google 的计算机视觉能够捕捉到其中的微妙细节，例如一个人的纹身似乎是字母“G”，或一个孩子的临时叶子纹身。“关键在于这只是一张照片，”Mohandas 说。他希望该网站能促使人们想象 Google——或任何 AI 公司——通过分析云端中的数千张照片能了解他们多少信息。
如果 Theyseeyourphotos 促使您从 Google Photos 转向其他图像存储服务，这一过渡可能不会完全顺利。Mohandas 表示，Google 通过分割文件和压缩文件，使得用户难以将照片库转移到其他地方。他还指控 Google Play（Google 的 Android 应用商店）多次因透明定价等问题标记 Ente 的应用，Mohandas 认为这些问题是虚假的。Google 的 Smith 表示感谢反馈，并表示公司正在不断改进其服务。
在 Mohandas 的母语马拉雅拉姆语中，Ente 意为“我的”，该服务并非没有缺点。由于服务规模较小且开源，文件共享和搜索等功能可能尚未达到先进水平。如果用户丢失或忘记其密码（同时也是加密密钥），他们可能会失去对照片库的访问权限。Mohandas 表示，他相信自己的家庭照片在 Ente 上是安全的，该服务为用户保留了两份独立的私人备份。但 Google 在确保照片不会突然消失方面拥有数十年的经验。
然而，在某些方面，这正是 Mohandas 所担心的。他担心人类的视觉档案将以他无法预测或控制的方式被挖掘。“我相信 Google 是一家 20 年后仍将存在的公司，”他说。今天拍摄的他女儿的照片揭示了她的身份以及是什么让她快乐或悲伤。“这些信息可能会被任何有权访问此数据的人——广告商、约会网站、雇主以及尚未存在但将受益于心理档案的行业——在未来几十年内用于操纵她，”Mohandas 说。
他承认，对某些人来说，他可能显得过于偏执，但他表示：“我们不知道未来会如何发展，谨慎行事并无害处，拥有一个选择也无害处。”
