AI幻觉两个判决截然不同：名誉侵权时平台责任更重
2026/05/15 11:49阅读量 2
杭州互联网法院与南京法院近期对AI幻觉引发的两起案件作出不同判决：一起中AI平台因用户承诺“答错赔10万”被诉，法院认定AI无独立法律人格，平台免责；另一起中百度AI捏造律师被判刑信息，法院终审认定平台构成名誉侵权。差异关键在于名誉权侵权时，平台需承担实质性审查义务，不能仅以技术中立抗辩。
事件概述
近期两起涉及AI幻觉的案件出现迥异判决，核心差异在于是否涉及名誉权侵权。
核心信息
- 案例一（杭州互联网法院）：用户向AI查询高校招生信息，AI生成不准确内容后坚称正确，并承诺“若内容有误将提供10万元赔偿”。用户后来从官网核实信息有误，起诉平台索赔9999元。法院认为AI不具备独立法律人格，其生成的承诺无法律效力，平台无需担责。
- 案例二（南京）：律师李某在百度搜索自己姓名和职务，AI回复显示其因爆炸罪被判刑三年（配律师袍照片）。实则完全子虚乌有，真实为同名他人判决被AI张冠李戴。法院终审认定百度构成名誉侵权，判令赔礼道歉。
值得关注
两案差别原因：普通对话失误仅属合同纠纷（平台可适用避风港原则，履行显著标识、违法内容过滤、备案与安全评估等义务后即可免责）；但涉及名誉侵权时，捏造内容会降低他人社会评价，AI系统性、规模化自动造谣远超传统场景，平台角色从被动服务者向主动内容发布者倾斜，需承担更强事前审核义务。
具体注意义务包括：
- 更高标准的事实核查：当用户输入高度指向性描述（如姓名+职业）时，平台应预见到高风险，设置更严格的提示词过滤与输出检测机制，并以更醒目方式提示用户内容可能失实。
- 更高效的干预与阻断机制：名誉侵权具有持续伤害特性。若平台接到投诉后仅删除某次生成记录，但类似提示词仍生成同样侵权内容，法院可能认定未尽必要注意义务。百度案中一审已消失的幻觉内容二审时再现，说明需要建立主动干预机制。
- 真假混合内容更高识别义务：半真半假信息（如将正常业务调整渲染为资金链断裂）更具迷惑性，平台需投入技术资源识别。
- 特定高风险群体特别保护：律师、医生、公众人物等职业社会评价与职业发展紧密相连，平台应设置更高级别审核与警示规则。
总结
AI平台若继续依赖传统避风港机制应对名誉侵权，将非常被动。建议建立内部高危词库事前审核、生成阶段实时拦截高风险输出，以及快速投诉与人工复核机制，以在技术创新与法律责任间找到平衡。