共计 858 个字符，预计需要花费 3 分钟才能阅读完成。
苹果公司始终将用户隐私保护放在首位，但在开发大型语言模型以支持 Apple Intelligence 功能时，这一承诺却带来了独特的挑战。如何在不侵犯用户隐私的前提下收集足够的训练数据，成为了苹果需要解决的关键问题。
在最新的 Machine Learning Research 博客文章中，苹果详细介绍了其隐私保护方案。该公司采用了一种创新的方法：通过差分隐私技术和与个人无关的数据来理解用户使用趋势。具体来说，苹果正在创建合成数据，这些数据能够代表真实用户数据的总体趋势，并通过设备上的检测进行比较，从而在不访问敏感信息的情况下获取洞察。
苹果的差分隐私技术工作原理如下：首先，公司生成多个关于用户电子邮件中常见主题的合成电子邮件，例如邀请在下午 3 点打网球。然后，苹果从该电子邮件中创建一个包含特定语言、主题和长度信息的“嵌入”。这些嵌入会被发送给一小部分已启用设备分析的 iPhone 用户。
接收到嵌入的 iPhone 会选取实际用户电子邮件的样本，并为这些实际电子邮件计算嵌入。苹果创建的合成嵌入与实际电子邮件的嵌入进行比较，用户的 iPhone 决定哪个合成嵌入与实际样本最接近。通过差分隐私技术，苹果可以确定在所有设备中最常选择的合成嵌入，从而了解电子邮件的常见措辞方式，而无需查看用户电子邮件内容。
这一创新方法不仅帮助苹果改进了电子邮件摘要功能，还被应用于 Genmoji 图像生成功能的优化。苹果使用差分隐私技术来识别流行的提示和提示模式，同时确保不会接收任何可能识别个人的具体或独特信息。所有传递的信号都是匿名的，并包含随机噪声以隐藏用户身份。
值得注意的是，只有选择向苹果发送设备分析的用户才会参与这些测试。如果用户不希望数据以这种方式被使用，可以随时关闭该选项。苹果计划在即将发布的 iOS 18.5、iPadOS 18.5 和 macOS Sequoia 15.5 中扩展差分隐私技术的使用，以进一步改进 Image Playground、Memories Creation、Writing Tools 和 Visual Intelligence 等 AI 功能。
