博斯特罗姆转向乌托邦焦虑：超级智能成功后，人类面临意义缺失与价值重估

事件概述

瑞典哲学家尼克·博斯特罗姆（Nick Bostrom），《超级智能》作者及牛津人类未来研究所创始人，近期在《纽约时报》播客访谈中表明其研究重心的转移。他承认AI导致灾难的风险依然存在，但认为更紧迫且缺乏准备的问题是：如果超级智能安全到来且技术发展顺利，人类将如何生活？他对这一“后成功”世界感到“一无所知”，并指出人类正面临意义缺失、教育重塑和价值重估的深层挑战。

核心信息

1. “已解决的世界”与努力价值的危机
博斯特罗姆提出一个极端思想实验——“已解决的世界”（The Solved World）。在该场景中，技术成熟且分配公平，机器承担所有有经济价值的任务，人类无需工作即可按需获得健康、愉悦和知识，甚至可以通过神经干预直接获得跑步或苦读后的成就感。

• 后果：当所有结果均可直接获取时，人们将失去为之努力的理由。教育、爱好和过程本身的价值需要重新定义。
• 现状对比：当前社会常将教育视为职业预备系统，但在无需谋生的未来，教育应转向帮助人过好一生，包括学会交谈、培养爱好、理解艺术和发展精神生活。

2. 关系中“谁来做”与自愿选择的不可替代性
尽管机器在效率上可能超越人类，但某些行动的价值依赖于特定的主体和过程，无法被替代：

• 情感连接：孩子歪斜的蜡笔画之所以珍贵，是因为“孩子为你画”，这种心意和行动在他人生活中占有位置，机器人无法外包这种承诺。
• 自愿的挑战：高尔夫等活动的价值在于自愿选择“用球杆把容易的事变难”。未来人类可能会自愿设置障碍，参与运动、音乐演奏等活动，以体验克服阻力的乐趣。
• 隐喻：饥饿和不公像白昼的太阳一样迫切，而审美、精神和关系中的细微价值像夜空星座，只有在迫切需求退去后才可见。

3. 伦理决策需建立“道德议会”
针对有效利他主义中可能出现的“为遥远未来无数生命牺牲当下权利”的功利主义推论，博斯特罗姆主张拒绝单一的数字包揽。

• 道德议会：伦理决策应由关心总体福利、坚持权利和义务、重视品格与关系的代表共同协商。
• 警惕监控：他警告社会更容易过早接受监控而非谨慎拒绝，强调不能为了宏观前景而忽视具体个人的代价。

4. 人类本质的争论：成长还是告别？
访谈最后，双方就人类未来的形态产生分歧：

• 博斯特罗姆观点：人类可能成长出超越当前感受的新存在方式。就像猿类无法想象人类文化一样，我们不应以当前尺度估量更丰富的存在。他希望通过减轻痛苦，让人类有更多时间探索新的经验层次。
• 主持人观点：美、正义、爱与人类特定的身体局限和死亡相连。如果改变太多，得到拥有陌生目标的心智，那可能不再是值得前往的人类生活。

值得关注

博斯特罗姆用“追汽车的狗”比喻人类对AI技术的追逐：过去担心车会碾死人（末日风险），现在车已近在咫尺，真正的难题是“如果你真的追上了，接下来怎么办？”这标志着公共讨论需要从“AI会不会毁掉我们”转向“万一它成功了，我们靠什么过日子”的意义算术题。