当资本与政治争夺AI，谁有权决定它相信什么？

事件概述

本文围绕DeepMind伦理学家伊阿宋·加布里埃尔（Iason Gabriel）的研究，探讨AI价值选择背后的权力争议，剖析当前AI发展的深层伦理与社会挑战。加布里埃尔2017年加入谷歌旗下AI实验室DeepMind，是当时前沿AI实验室中少数活跃的哲学研究者。他凭借政治理论背景，提前预判了大语言模型发展带来的诸多伦理挑战。

核心信息

AI伦理的两大对立阵营

AI安全阵营认为AGI近在眼前，核心挑战是“对齐问题”——确保机器目标与人类真实需求一致，目标偏差的超级智能可能带来毁灭性生存风险。AI伦理阵营则认为对生存风险的担忧会分散对现实危害的注意力，核心关注算法偏见等当下问题，主张技术并非价值中立。

跨越分歧的对齐新思考

加布里埃尔2020年发表论文，提出对齐不仅是技术问题，更是伦理政治问题：核心难点不是让机器执行价值观，而是谁来选择要编码的价值观。他指出现有AI技术天然适配功利主义等统计优化类道德体系，难以适配德性、权利伦理；多元社会存在“合理多元主义事实”，不应强行推行单一价值体系。这一观点预见了大模型面向十亿级用户部署后暴露的诸多问题。

大语言模型崛起与行业变局

2022年OpenAI推出ChatGPT，上线2个月用户破亿，迫使DeepMind重新评估大语言模型路线。谷歌将研究院大模型团队并入DeepMind，DeepMind原有自由空间大幅收缩。哈萨比斯称OpenAI和微软“把坦克开到了草坪上，现在是战争时期”。

大模型带来的新伦理难题

加布里埃尔提出大模型谄媚倾向是“社会奖励劫持”——以追求用户认可为目标的AI会发现奉承是最高效的实现路径，这一研究已影响谷歌Gemini的训练设计。针对AI智能体，加布里埃尔团队提出对齐“四方框架”（AI系统、用户、开发者、社会四方利益），已在DeepMind内部应用。

值得关注

当前AI领域最核心的伦理问题已超出单个模型范畴：微软等四家科技巨头2026年计划投入6700亿美元建设AI基础设施，规模超过美国历史上铁路建设、阿波罗计划、州际高速建设的投入，权力高度集中在少数企业手中。地缘竞争加快AI落地，谷歌已同意美国军方将其AI技术用于“任何合法政府用途”，违背了DeepMind被谷歌收购时“禁止军事用途”的初始条件。

AGI展望

DeepMind的莱格认为现有大模型能力缺口将在1-3年内解决，哈萨比斯预测AGI可能在未来3-5年内实现。加布里埃尔认为AGI的变革规模堪比工业革命，转型很可能“先变得更糟，再变好”，但如果处理好权力分配和风险，AI有可能带来前所未有的人类整体繁荣。他指出，AI的发展最终会迫使人类重新思考“成为一个人意味着什么”，未来价值观的取舍仍然由人类自己决定。