共计 1428 个字符，预计需要花费 4 分钟才能阅读完成。
在人工智能助手的发展过程中，记忆与遗忘之间的平衡成为了一个关键议题。Microsoft 的 Copilot AI 助手近日推出了一项新功能，允许用户明确指示它记住或忘记某些个人生活细节。这一功能不仅提升了用户体验，也引发了对隐私保护的深入讨论。,
关键要点
- 记忆控制 ：Copilot 现在可以根据用户指令记住或忘记特定细节。
- 记忆管理 ：用户可以在设置 > 用户记忆中查看和编辑 Copilot 的记忆。
- 潜在风险 ：更强的记忆能力也带来了更大的隐私和安全风险。
功能详解
Microsoft AI 部门的首席执行官 Mustafa Suleyman 在 X 上宣布，Copilot 现在可以记住用户的个人偏好，从而在未来对话中提供更个性化的回应。例如，用户可以要求 Copilot 记住自己是素食主义者，这样在推荐餐厅时，它会自动排除不符合饮食限制的选项。此外，用户还可以指示 Copilot 记住新伴侣的名字和生日，如果关系结束，也可以随时让它忘记这些信息。
这项功能不仅适用于日常生活细节，还能帮助用户养成新习惯。比如，用户可以设置 Copilot 每天早晨提醒自己写日记。通过“忘记”和“记住”命令，用户可以灵活管理 Copilot 的记忆内容。,
记忆与遗忘的平衡
在构建能够广泛参与并完成多种任务的 AI 助手的过程中，科技开发者必须在记忆和遗忘之间找到微妙的平衡。如果聊天机器人记住用户生活中的每一个细节，可能会导致查询时的延迟，并引发隐私问题。另一方面，一个无法记住任何信息的聊天机器人，其功能与普通搜索引擎无异。
Microsoft 并未采取一刀切的方法，而是将记忆管理的控制权交给了用户，让他们能够根据个人需求调整 AI 系统对信息的记忆程度。,
构建更智能的 AI 助手
今年 4 月，Microsoft 首次为 Copilot 引入了“个性化和记忆”功能，标志着构建能够理解用户独特背景和偏好的 AI 伴侣的重要一步。通过这一功能，Copilot 能够从每次对话中学习，逐步构建更精细的用户档案，类似于 Instagram 和 TikTok 等社交媒体平台的个性化算法。
Microsoft 在 5 月的博客文章中写道：“随着用户使用 Copilot，它会记录用户的互动，创建更丰富的用户档案和量身定制的解决方案。从推荐新的度假地点到用户可能喜欢的产品，Copilot 是用户的首选 AI 伴侣，帮助用户感到被理解和被关注。”
这一更新紧随 ChatGPT 的记忆功能之后，后者能够参考用户过去的对话，以更有效地定制回应。Anthropic 也在 8 月宣布，Claude 可以提示从之前的交流中检索信息，尽管该功能默认开启，但用户也可以手动关闭。,
记忆的风险
然而，聊天机器人能够记住信息并构建详细用户档案的能力并非没有风险。在数据泄露的情况下，用户或组织共享的敏感信息可能会被曝光。此外，一个逐渐了解用户沟通风格和信念的 AI 聊天机器人可能会微妙地将用户推向某种思维模式，这种现象在媒体中被广泛描述为“AI 精神病”。
虽然让用户能够关闭或修改聊天机器人的记忆功能是一个良好的第一步，但并非所有用户都具备足够的知识来采取这些措施，甚至可能不知道他们的信息被存储在某个服务器上。,
法规与透明度
欧盟的《通用数据保护条例》（GDPR）要求科技公司在收集和处理用户个人数据时进行披露，但目前美国还没有此类全面的法规。因此，科技开发者的透明度政策成为了确保用户了解其个人信息如何被保存和使用的唯一机制。
随着 AI 技术的不断发展，如何在提升用户体验的同时保护用户隐私，将是科技公司面临的重要挑战。
