共计 772 个字符，预计需要花费 2 分钟才能阅读完成。
近期，谷歌对其 AI 概览功能的表现感到尴尬。面对技术巨头的一项未成熟的 AI 搜索功能带来的不良质量和错误信息，谷歌在周四发表了道歉声明。作为一家以整理全球信息并提供给用户为己任的公司，谷歌在一篇博文中承认了“某些奇怪、不准确或无助的 AI 概述确实出现了”。
这篇由谷歌副总裁兼搜索主管 Liz Reid 撰写的博文，详细列举了 AI 概览的多种错误。Reid 指出，虽然 AI 概览不会像其他大型语言模型那样“产生幻觉”，但可能因错误解释查询、网络语境或缺乏可靠信息而出错。她还提到，社交媒体上的一些截图是伪造的，而其他则是对无意义查询的回应，如“我应该吃多少块石头？”这类查询因缺乏准确信息，导致 AI 引导用户进入讽刺内容的网页。
Reid 还提到，谷歌在发布前对该功能进行了广泛测试，包括强有力的红队测试。然而，谷歌是否缺乏幽默感，是否有人预见到这些糟糕的结果，仍是一个问题。此外，谷歌减少了 AI 功能对 Reddit 用户数据的依赖，尽管 Reddit 常被用作搜索过滤器，但它并非事实的知识体系。AI 可能会错误地指向 Reddit 论坛帖子，不理解何时使用第一手 Reddit 知识是合适的。
Reid 承认，论坛通常是真实、第一手信息的好来源，但在某些情况下可能导致不太有用的建议，如使用胶水让奶酪粘在披萨上。谷歌表示，他们查看了 AI 概览的例子，并确定了可以改进的模式，包括为荒谬查询构建更好的检测机制，限制用户生成内容的使用以避免提供误导性建议，对 AI 概览在不帮助的查询上增加触发限制，不在硬新闻主题中显示 AI 概览，以及为健康搜索的保护添加其他触发细化设置。
随着 AI 技术的不断进步，问题在于这些聊天机器人是否最终会超越谷歌搜索，帮助我们更好地理解世界信息。尽管谷歌的错误可能是荒谬的，但现在说它失败还为时过早，特别是考虑到谷歌的 Beta 测试团队的规模之大，实际上就是所有使用搜索的人。
