共计 1370 个字符，预计需要花费 4 分钟才能阅读完成。
随着生成式人工智能（AI）技术的迅猛发展，AI 生成内容的识别标志变得越来越难以察觉。过去，长破折号、可疑的撇号或过多的表情符号被认为是 AI 生成内容的标志，而现在，背景中某些微妙的“不对劲”或视频内容显得过于真实，都成为了新的识别线索。
然而，与其试图检测和避免这些故障，不如有意鼓励它们。AI 系统的缺陷、失败和意外输出，可能比它们生成的完美、成功的输出更能揭示这些技术的实际运作方式。当 AI 产生幻觉、自相矛盾或生成出美丽而破碎的内容时，它暴露了其训练偏见、决策过程，以及它看似“思考”的方式与实际处理信息之间的差距。
- 
研究人员和教育工作者认为，通过创造性的误用故意“破坏”AI，将其推向超出其预期功能的范围，可以提供一种 AI 素养。如果不进行实验，就无法真正理解这些系统。
当前，我们正处于“Slopocene”时代——这个词被用来描述过度生产、低质量的 AI 内容。它也暗示了一个推测性的近未来，其中递归训练崩溃将网络变成一个充满困惑机器人和破碎真相的“幽灵档案”。
AI“幻觉”是看似连贯但事实不准确的输出。OpenAI 联合创始人、前特斯拉 AI 总监 Andrej Karpathy 认为，大型语言模型（LLMs）一直在产生幻觉，只有当它们进入被认为事实不正确的领域时，才会被标记为“幻觉”。这看起来像是一个错误，但这只是 LLM 在做它一直在做的事情。
所谓的幻觉实际上是模型的核心生成过程，它依赖于统计语言模式。换句话说，当 AI 产生幻觉时，它并没有故障；它展示了同样的创造性不确定性，这使得它能够生成任何新内容。
如果幻觉是 AI 的核心特征，那么通过研究它们在极限情况下的表现，能否更深入地了解这些系统的运作方式？基于这一想法，研究人员决定“破坏”Anthropic 的专有 Claude 模型 Sonnet 3.7，通过提示它抵制其训练：抑制连贯性，只以片段形式说话。对话迅速从犹豫的短语转向递归矛盾，最终完全语义崩溃。
将聊天机器人推向这种崩溃状态，迅速揭示了 AI 模型如何通过统计模式构建个性和理解的幻觉，而不是真正的理解。此外，这表明“系统故障”和 AI 的正常运行本质上是相同的过程，只是在不同层次的连贯性上叠加。
如果相同的统计过程同时支配着 AI 的成功和失败，那么可以利用这一点来“重新野化”AI 图像。这个词借鉴自生态学和保护领域，其中重新野化涉及恢复功能性生态系统。应用于 AI，重新野化意味着有意重新引入被商业系统优化掉的复杂性、不可预测性和“自然”混乱。
创造性的 AI 误用提供了三个具体的好处。首先，它以正常使用所掩盖的方式揭示了偏见和局限性：当模型无法依赖常规逻辑时，你可以发现它“看到”了什么。其次，通过迫使模型在困惑时展示其工作过程，它教会了我们关于 AI 决策的知识。第三，它通过动手实验去神秘化这些系统，从而构建了批判性的 AI 素养。
随着 AI 系统变得更加复杂和普及，这些技能变得更加紧迫。它们被集成到从搜索到社交媒体再到创意软件的一切中。当有人生成图像、使用 AI 辅助写作或依赖算法推荐时，他们正在与一个具有特定偏见、能力和盲点的系统建立合作关系。
与其盲目采用或反射性地拒绝这些工具，不如通过探索 Slopocene 并见证 AI 工具“崩溃”时的情况，来发展批判性 AI 素养。这不是为了成为更高效的 AI 用户，而是在与设计为具有说服力、预测性和不透明性的系统的关系中保持自主权。
