教皇发布AI伦理通谕，诺奖得主帕里西：治理AI最隐蔽风险人类尚未应对

事件概述

2026年5月25日，天主教罗马教皇利奥十四世发布通谕《伟大的人性》（Magnifica Humanitas），这是天主教会历史上首部系统回应人工智能时代伦理挑战的文件，全文4万余字，纪念利奥十三世《新事物》通谕发表135周年。通谕呼吁在AI发展中维护人类最终责任，防止技术权力集中、算法操纵舆论及贫富差距扩大，倡导建立全球治理体系保障人类尊严与社会正义。

诺奖得主乔治·帕里西（Giorgio Parisi，2021年诺贝尔物理学奖得主）同日接受意大利《晚邮报》采访，就AI伦理问题系统陈述看法。

核心观点

1. 技术非中立，黑箱可理解

帕里西强调技术从来不是中立的，设计者的价值取向已内嵌其中。AI从包含人类选择、疏忽和偏见的样本中学习，会放大这些偏见。深度神经网络当前确实带有黑箱特征，但不透明不等于永远无法理解，物理学已提供工具，未来或出现通过观察实验研究AI行为的新职业。

2. 人类必须保留最终决策权，警惕隐蔽风险

坚持人类掌握AI最终决定权是主动选择捍卫的原则，AI只能作为工具而非权威。最隐蔽的风险不是公开的委托行为，而是将实际的政治决策伪装成“技术性”决定——例如选择攻击目标这类道德判断绝不能交给算法。

3. AI快速改变劳动关系，控制入口即掌握权力

AI带来的劳动变革仅需几年，远快于工业革命。若AI成为人类进入数字世界的通用门户，控制该过滤器的主体将拥有巨大权力。社会需合理分配生产力收益，缩减全员工作时间是可行方向。

4. AI可以治理，但人类未及时制定规则

AI作为全球性现象具备复杂系统特征，但复杂不等于无法治理，如同交通可通过规则管控。目前最值得担心的是AI发展壮大，却没有配套规则。

5. 公共AI研究需要补足

当前前沿AI研究多集中在少数私营大公司，进展保密，而科学发展依赖知识共享。帕里西支持在欧洲创建类似欧洲核子研究中心（CERN）的公共AI机构，作为私营研究、各国自有研究的补充，保持知识公共属性。

6. 治理需多学科与多元机构参与

AI的核心问题不仅是技术性的，推理、意识、责任等需要哲学家、人文学者参与讨论。工程师无法独自应对，关乎人类整体发展的技术不能只交给开发者。

7. 缺乏有效的全球治理体系

目前不存在适配AI的国际治理体系，本应承担职能的国际机构近年被边缘化。AI不受国境限制，需要国际条约划定不可逾越的界限，并设立独立机构监督执行。重建覆盖AI、气候、和平等领域的有效国际治理体系是未来数年的任务。