共计 596 个字符，预计需要花费 2 分钟才能阅读完成。
Meta 的 AI 助手错误地声称，最近对前总统唐纳德·特朗普的未遂暗杀事件并未发生，这一错误现在被公司高管归因于支持其聊天机器人和其他技术的系统。在周二发布的一篇公司博客文章中，Meta 的全球政策负责人乔尔·卡普兰称其 AI 对有关枪击事件问题的回答“不幸”。他透露，Meta AI 最初被编程为不回应有关未遂暗杀的问题，但公司在人们开始注意到这一点后取消了这一限制。他还承认，“在少数情况下，Meta AI 继续提供不正确的答案，有时甚至声称该事件没有发生——我们正在迅速解决这一问题。”
卡普兰继续解释道：“这类回应被称为幻觉，这是整个行业在所有生成式 AI 系统中普遍存在的问题，也是 AI 未来处理实时事件的持续挑战。”他负责 Meta 的游说工作，并指出，“与所有生成式 AI 系统一样，模型可能返回不准确或不适当的输出，我们将继续解决这些问题，并在功能发展及更多人提供反馈时进行改进。”
这不仅仅是 Meta 面临的问题：谷歌在周二也必须反驳其搜索自动完成功能审查有关暗杀企图结果的指控。特朗普在 Truth Social 上发帖称：“又来了，又一次操纵选举的尝试！！！去追究 Meta 和谷歌的责任。”
自 ChatGPT 问世以来，科技行业一直在努力应对生成式 AI 倾向于虚假信息的挑战。一些公司，如 Meta，试图通过高质量数据和实时搜索结果来弥补幻觉问题。但正如这一特定例子所示，克服大型语言模型固有的生成虚假信息设计仍然困难重重。
