比超级智能更先到来的，是超级愚蠢：AI时代智力被用于精加工错误的风险

事件概述

近期，Anthropic联合创始人杰克·克拉克（Jack Clark）在公开节目中讲述了一个关于《魔鬼家书》的错误故事，随后《金融时报》专栏作家蒂姆·哈福德（Tim Harford）试图核实该故事时，又被Google Gemini给出的错误信息误导。这一系列事件揭示了AI时代的一个核心风险：“聪明的愚蠢”（Smart Stupidity）正在取代无知，成为主要威胁。智力不再用于探索真理，而是被高效地用于为错误构建看似合理的论证体系。

核心机制：从无知到“聪明的愚蠢”

复杂系统科学家大卫·克拉考尔（David Krakauer）提出，愚蠢并非智力的缺失，而是智力的高级产物。其核心特征包括：

1. 智力服务于错误：无知只是空白，而愚蠢是用繁复的理论、信念和算法将原本困难的问题变得更难。历史上开尔文勋爵断言“飞行器不可能”即为典型，其论证严密但结论荒谬。
2. AI降低了“愚蠢”的生产成本：过去，制造一个精致的错误大厦需要聪明人数月投入；现在，AI能以零成本瞬间输出流畅、自信但完全错误的答案。这种“精装修过的无知”具有极强的欺骗性。
3. 判断规则的集体过期：人类长期依赖的三条经验法则在AI时代失效：
   • 流畅=可靠：过去撒谎成本高，流畅是一种抵押；现在流畅免费且即时。
   • 自信=付过学费：过去自信源于现实校准；现在自信是AI生成的默认属性。
   • 答案=理解：过去获取答案需经过消化过程；现在答案随手可得，导致人们高估自己的理解力。

社会影响：怀疑的犬儒化与认知外包

当前社会对AI的态度陷入一种矛盾状态：理论上的怀疑与实践中的依赖。

• 犬儒主义的滋生：人们普遍知道AI会胡说，但极少进行实际核查。怀疑未转化为行动，反而演变为“犬儒主义”——既不信任何信息，也不愿核实任何信息，将懒惰包装为生产力。
• 解释分工的模糊：传统社会中，医生、专家提供解释，用户负责执行，界线清晰。AI使解释变得免费且即时，缩短了“拥有解释”与“真正理解”之间的距离。心理学研究表明，能轻易获取解释的人往往高估自己的理解程度。
• 纠错机制的失效：最危险的不是AI出错，而是人类负责察觉错误的判断能力被外包。当检查被视为低效劳动，人类便失去了使用判断力的理由，形成“愚蠢共谋”。

应对思路：建立“愚蠢科学”

文章回顾了过去五百年对愚蠢的思考（从伊拉斯谟到穆齐尔），指出目前缺乏一门像“智能科学”一样严谨的**“愚蠢科学”**。面对认知技术时代，亟需回答三个关键问题：

1. 聪明的系统如何产出愚蠢的结果？
2. 何种制度条件会导致集体智能退化为集体愚蠢？
3. 增强认知与替换认知的界线在哪里？

AI对话框究竟是增强思考的工具，还是替代思考的黑箱，取决于使用者的行为模式。厘清这一界线，可能是当前认知技术时代最明智的选择。