共计 1300 个字符，预计需要花费 4 分钟才能阅读完成。
谷歌曾表示，其利用生成式 AI 提供核心信息快照的“AI 概览”功能是“有帮助且可靠的”。然而，在《卫报》的一项调查揭露该功能提供了虚假和误导性的健康信息，甚至使用户面临伤害风险后，谷歌已紧急移除了部分涉及健康话题的 AI 摘要。
调查发现，部分出现在搜索结果顶部的 AI 摘要提供了不准确的健康信息。其中一个被医学专家描述为“危险”且“令人担忧”的案例是：谷歌的 AI 概览提供了关于关键肝功能检测的虚假参考范围，这可能导致患有严重肝病的患者误以为自己健康状况良好，从而延误治疗。
具体而言，当用户搜索“肝功能血液检测的正常范围是多少”时，谷歌 AI 概览会直接显示一系列数字，但完全缺乏必要的医学背景说明。它没有考虑患者的国籍、性别、种族或年龄等关键变量。专家指出，这些 AI 生成的所谓“正常范围”可能与医学界公认的临床标准存在巨大差异，可能误导重症患者忽视后续必要的医疗随访。
在《卫报》调查后，谷歌移除了针对“肝功能血液检测的正常范围是多少”及相关搜索词的 AI 摘要。谷歌发言人称，公司不会对个别内容的移除发表评论，但表示当 AI 概览缺乏某些关键背景信息时，他们会进行广泛改进，并根据政策在适当时采取行动。
然而，问题并未完全解决。英国肝脏信托基金会的传播与政策主任 Vanessa Hebditch 指出，如果用户以不同方式提问——例如搜索“肝功能检测参考范围”——仍可能触发具有同样误导性的 AI 概览。“理解肝功能检测结果非常复杂，远不止是简单比较一组数字，”她强调，“AI 概览未能警告用户一个关键事实：即使患有严重肝病，某些检测结果也可能显示在‘正常’范围内。这种错误的保证可能非常有害。”
患者信息论坛主席 Sue Farrington 对谷歌移除部分摘要表示欢迎，但强调这仅是解决问题的第一步。“谷歌 AI 概览向人们提供不准确健康信息的案例仍然过多，”她说，“全球已有数百万成年人在获取可信的健康信息方面面临困难，因此，谷歌有责任引导用户获取可靠、经过严格研究的健康信息，这一点至关重要。”
《卫报》的调查还发现，其他被专家描述为“完全错误”和“极其危险”的 AI 摘要——例如涉及癌症筛查和心理健康话题的内容——在搜索结果中仍然存在。对此，谷歌回应称，这些摘要链接至知名且可靠的信息源，并在需要时提醒用户寻求专家建议。发言人表示，公司内部的临床医生团队已经审查了相关内容，并认为“在许多情况下，信息并非不准确，且得到了高质量网站的支持”。
科技媒体 Futurism 的高级编辑 Victor Tangermann 指出，此次调查表明谷歌需要付出更多努力，“确保其 AI 工具不会传播危险的健康错误信息”。《搜索引擎杂志》高级撰稿人 Matt Southern 则撰文强调：“AI 概览出现在排名结果的最上方，拥有极高的可见度。当涉及健康话题时，任何错误信息的后果都远比普通查询更为严重。”
谷歌表示，AI 概览仅出现在其对回答质量有高度信心的查询中，并称公司持续在衡量和审查跨多个信息类别的摘要质量。然而，随着生成式 AI 在搜索引擎中的整合日益深入，如何平衡技术创新与信息准确性——尤其是在健康、医疗等关乎生命的关键领域——仍然是谷歌等科技公司面临的重大且紧迫的挑战。
