共计 787 个字符，预计需要花费 2 分钟才能阅读完成。
尽管最新一代的 AI 在餐厅推荐和撰写邮件方面表现出色，但在提供 医疗建议 时，它们仍存在显著的局限性。最近的一个案例凸显了这一问题：一名男子在遵循聊天机器人提供的健康建议后，因摄入一种罕见的有毒物质而住院。
事情的起因是这名患者决定通过减少盐（氯化钠）的摄入来改善健康。为了寻找替代品，他做了许多人可能会做的事：向 ChatGPT 寻求建议。OpenAI 的聊天机器人推荐了 溴化钠，这名男子随后在网上购买了这种物质并将其加入日常饮食中。
虽然溴化钠确实可以替代氯化钠，但通常用于清洁热水浴缸，而非作为食品调味剂。然而，AI 忽略了这一 关键背景。
三个月后，这名患者因出现偏执妄想被送往急诊室，他坚信邻居试图毒害他。
“在入院的前 24 小时内，他的偏执症状和视听幻觉逐渐加重，最终因试图逃跑而被强制进行精神病治疗，”医生在报告中写道。
在接受抗精神病药物治疗后，这名男子逐渐冷静下来，并向医护人员解释了他受 AI 启发的饮食计划。结合他的检测结果，医生诊断他患有 溴中毒，即溴化物的毒性积累。
通常情况下，健康个体的溴化物水平 低于约 10 mg/L，而这名患者的水平高达 1,700 mg/L。
溴中毒在 20 世纪初曾是一种相对常见的病症，估计占精神病住院病例的 8%。然而，随着含溴药物在 20 世纪 70 年代和 80 年代逐渐被淘汰，这种病症的发病率大幅下降。
经过三周的治疗，这名患者最终康复出院，未出现其他严重问题。
这一案例研究的重点并非一种古老疾病的复发，而是新兴的 AI 技术在涉及健康等关键领域时，仍无法替代人类的专业知识。
“ChatGPT 和其他 AI 系统可能会产生科学上的不准确信息，缺乏对结果的批判性分析能力，并可能助长错误信息的传播，”作者在研究中指出。
“在面对寻找氯化钠替代品的患者时，医疗专家几乎不可能推荐溴化钠。”
这项研究发表在《Annals of Internal Medicine: Clinical Cases》期刊上。
