共计 1042 个字符，预计需要花费 3 分钟才能阅读完成。
就在人们可能认为 AI 不会再让我们惊讶的时候，Meta 的“FungiFriend”聊天机器人出现在了一个受欢迎的 Facebook 蘑菇采集群组中，很快，它就建议用户用黄油烹饪一种有毒的蘑菇。这是一个典型的例子，展示了 AI 如何从有益变为危险，尤其是在像野生蘑菇采集这样风险极高的事情上。
根据 404 Media，这甚至不是 AI 第一次在蘑菇领域出错。在过去几个月里，亚马逊上出现了大量 AI 撰写的蘑菇采集书籍，谷歌搜索中也充斥着 AI 生成的蘑菇图片。现在，Meta 通过自动将 FungiFriend 直接插入到“东北蘑菇识别与讨论”群组中，进一步提高了赌注。这个拥有 13,500 名成员的群组，大部分是初学者，是一个人们寻求安全采集建议的地方。群组管理员现在正急忙移除这个机器人，而 Meta，不出所料，保持沉默。
FungiFriend 的头像？一个“留着胡须的迷幻巫师”，当然是 AI 生成的——因为如果你要搞砸蘑菇建议，不妨做得有风格。经验丰富的采集者和消费者安全倡导者 Rick Claypool 指出，这些机器人远不可靠，无法识别可食用的蘑菇。在《蘑菇杂志》中，他强调了这些系统缺乏区分安全蘑菇和危险蘑菇的技能。
当一名群组成员向 FungiFriend 询问关于 _Sarcosphaera coronaria_ 的烹饪建议时，风险变成了现实，这种蘑菇吸收了砷，甚至导致了死亡。机器人随意地回答说它是“可食用但罕见”，并推荐了炒或汤。这就像谷歌的 AI 告诉用户在披萨上涂胶水一样荒谬。
与此同时，苹果的新 AI 通知摘要也没有帮助 AI 的声誉。它因遗漏关键细节或断章取义地扭曲信息而让用户感到沮丧，导致困惑和错过警报。因此，当 Meta 和苹果都失手时，人们对于科技公司将 AI 推向日常生活各个方面的警惕是可以理解的。
但对于蘑菇采集者来说，这不仅仅是令人讨厌的——这是危险的。Claypool 解释说，这些群组是人们寻求真实人类关于蘑菇识别建议的地方。但随着 FungiFriend 现在成为移动设备上的首选回复选项，Meta 正在推动人们转向 AI 建议，而不是社区中的真正专家。
在典型的群组帖子中，错误的建议可以被其他人纠正。但 AI 呢？内置的安全检查是不够的。初学者，担心问“愚蠢”的问题，可能会转向机器人，认为这是一个无判断的区域。正如 Claypool 所说，“AI 可能不会评判你，但它可能会让你丧命。”
总的来说，AI 在某些领域的应用仍需谨慎，尤其是在涉及安全和健康的关键领域。科技公司需要更加重视 AI 的准确性和安全性，以避免类似的事件再次发生。
