共计 1353 个字符，预计需要花费 4 分钟才能阅读完成。
尽管 AI 技术持续火热，但 AI 聊天机器人仍存在一个显著问题——它们常常撒谎。公众人物正为此付出代价。上个月底，共和党参议员玛莎·布莱克本（Marsha Blackburn）对谷歌进行了严厉批评，原因是谷歌的 AI 模型 Gemma 在被问及是否有针对她的强奸指控时，虚假声称她曾受到此类指控。
AI 的回答不仅简单回应“是”，还编造了一个完整的故事。它自信地解释说，在布莱克本 1987 年竞选田纳西州参议员期间，一名州警声称“她逼迫他为其获取处方药，并且这段关系涉及非自愿行为。”
这一引人入胜的叙述足以让不熟悉 AI“幻觉”习惯的人信以为真，但布莱克本声称，Gemma 还生成了虚假链接，指向虚构的新闻文章来支持这一说法，尽管点击这些链接只会导向死胡同。
“这不是无害的‘幻觉’，”布莱克本在一份官方声明中写道。“这是由谷歌拥有的 AI 模型制作和传播的诽谤行为。”她要求谷歌“在能够控制它之前将其关闭。”
谷歌的回应是果断切断电源。在一份声明中，该公司辩称，Gemma 模型是为开发者设计的，从未打算成为“消费者工具或模型”，因此将其从 AI Studio（谷歌用于访问其 AI 模型套件的公共平台）中撤下。（谷歌还驳斥了布莱克本关于其 AI 表现出“对保守派人物的偏见模式”的说法，承认 LLM 技术本身固有的幻觉问题更为严重。）
作为参议员，布莱克本对谷歌施加的压力是大多数人无法做到的，但她的投诉预示着未来将出现巨大的法律困境，而这些困境的种子正在我们眼前播下。
今年夏天，一家明尼苏达州的太阳能公司因谷歌臭名昭著的 AI Overviews 虚假声称该公司正在接受监管机构的调查，并被指控存在欺骗性商业行为，并以虚假引用为这些指控提供支持，而起诉谷歌诽谤。这家名为 Wolf Solar Electric 的公司声称，由于这些幻觉，它失去了业务。根据《纽约时报》最近的报道，这起诉讼是美国至少六起因 AI 模型生成内容而提起的诽谤案件之一。
AI 的幻觉，至少目前来看，并不会消失，这意味着聊天机器人的错误回应将继续使 AI 公司面临诉讼，而法院正在慢慢弄清楚如何处理这些问题。在操作顺序上，它们是法律问题优先，技术问题其次。这引发了一个问题：谁来解决它们？
普林斯顿大学教授彼得·亨德森（Peter Henderson）向《经济学人》表示，AI 公司是否应对这些虚假生成内容负责的问题几乎肯定会提交到最高法院。
对于结果如何，风向标会给出相互矛盾的答案。一方面，《经济学人》指出，最近乔治亚州一家广播电台对 OpenAI 提起的诽谤诉讼被法院驳回，法官裁定 OpenAI 无需承担责任，因为它对其聊天机器人容易出错的倾向提供了“广泛的警告”。
此外，AI 公司还可能受益于对第 230 条法律的现行解释，该法律实际上规定互联网网站不对其平台上传播的信息负责，因为它们不是这些内容的发布者，这为社交媒体公司带来了福音。
但是，这是否适用于生成式 AI，因为 AI 本身正在生成内容，而不仅仅是重新分享它？在 2023 年针对谷歌的一起案件中，最高法院大法官尼尔·戈萨奇（Neil Gorsuch）表示，不，这种保护不适用于 AI 生成的内容。因此，《经济学人》警告说，如果第 230 条失效，AI 开发者可能会辩称聊天机器人享有言论自由的权利。毕竟，现有的法律先例认为，享有宪法赋予的这一神圣权利的不仅仅是人类，还有公司。
