共计 1074 个字符，预计需要花费 3 分钟才能阅读完成。
2025 年 7 月 14 日，苹果公司发布的一篇开创性研究论文在人工智能领域引发震动，揭示了当前最先进模型的严重局限性。这些缺陷此前未被察觉，如今却成为行业关注的焦点。
这篇题为《思维的幻觉》的论文指出，包括 GPT-4、Deep Seek 和 Claude Sonnet 在内的先进模型在面对复杂任务时，其 ’ 链式思维 ’ 推理能力会出现 ’ 完全准确性崩溃 ’。研究显示，当任务复杂度超过一定阈值，增加处理能力、标记或数据对提升模型表现几乎无济于事。
- 
这一发现对 AI 解决气候变化、能源短缺或全球贫困等重大挑战的宏大愿景产生了直接影响。大型推理模型（LRMs）作为驱动代理式 AI 的问题解决引擎，曾被一些人视为通往人工通用智能（AGI）的重要一步。然而，苹果的研究结果引发了一个关键问题：数十亿美元的投资是否投入了一个技术死胡同？
研究核心发现表明，AI 的 ’ 思维 ’ 可能只是一种幻觉，而非人类在现实世界中解决问题的客观推理的真实反映。虽然 LRMs 在处理低复杂度任务时表现出色，但随着任务复杂度的增加，其表现会急剧下降，甚至完全失效。令人意外的是，这些模型在面对过于复杂的任务时，会主动减少投入，使用更少的标记。
这一发现对商业 AI 领域普遍信奉的 ’ 越大越好 ’ 理念提出了挑战。苹果的研究表明，超过某个临界点后，增加数据规模、算法复杂度和标记数量带来的效益将逐渐消失甚至崩溃。这意味着，在制定高层战略或进行复杂法律推理等场景中，AI 的实际效用将大打折扣。
对当今企业而言，这项研究并非预示着不可逾越的障碍，而是提醒我们生成式语言 AI 不应被视为万能解决方案。以下三个关键教训值得关注：
首先，将 AI 应用于结构化、低到中等复杂度的任务更可能取得最佳效果。例如，律师事务所可以利用 AI 从合同中提取要点、创建先例法摘要和标记风险，而非期望其直接制定胜诉策略。
其次，强调 ’ 人在循环中 ’ 的重要性，确保人类监督在 AI 应用中的关键作用，以实现负责任和可问责的 AI 使用。
第三，当面临 ’ 准确性崩溃 ’ 风险时，识别相关迹象（如模型放弃推理尝试时标记使用量的下降）对减轻其影响至关重要。
苹果的研究并未预示 AI 的终结，而是为企业提供了重新聚焦的机会。理解 AI 的局限性不应阻碍我们从中获益，但可以帮助我们避免因推理崩溃或资源浪费造成的严重损失。代理式 AI 和可解释 AI 等概念在此背景下显得尤为重要，它们可能帮助弥补推理不足，并提高系统的透明度。
我们不应期望 AI 始终完美工作或为每个问题提供最佳解决方案。然而，随着对其了解的深入，我们越有可能充分发挥其优势，创造真正的价值。这场游戏的关键在于发挥 AI 的长处，同时有效缓解其弱点的影响。
