硅谷科技公司大规模清理AI垃圾，治理面临误判与利益冲突

事件概述

劣质AI生成内容已大量出现在搜索、社交、音乐和视频平台，包括“胶水披萨”食谱、虚假传记和“虾仁耶稣”图片等，被统称为“slop”。梅里亚姆-韦伯斯特已将 slop 选为2025年度词汇；流媒体平台 Deezer 称每天新增曲目中近一半为 AI 生成，Apple Music 上传量中超过三分之一为 AI 内容。Instagram 负责人 Adam Mosseri 曾表示，追踪“真实媒体”很快将比追踪虚假媒体更实际。

平台清理行动

• Spotify：去年删除7500万条批量上传、重复曲目等“垃圾式”内容。
• YouTube：六个月内清除13万个低质量频道；谷歌研究人员通过分析上传速度、重复模板等模式，移除5万个疑似协同发布的账户集群。
• TikTok：已自动标记超过30亿条AI视频，今年前3个月因违反AI政策删除37.7万条视频，并测试让用户调节可见AI内容数量。
• 领英：7月表示AI垃圾内容是首要关注重点，开发了用户举报按钮。
• X：封禁通过付费鼓励机器人发布内容的应用程序；AI检测公司 Pangram 数据显示，平台上近一半超过50字的帖子由 AI 生成。
• Pinterest：允许用户限制看到的AI生成帖子数量。

科技公司既是制造者也是清理者

许多被垃圾内容困扰的平台，其自有AI工具也在助长问题。Meta 今年7月承诺支持欧洲公约，使AI生成内容更易识别，但同期推出的图像生成器因将公开 Instagram 账户纳入参考数据源，在用户连续三天强烈反对后被移除。谷歌在电子邮件、地图、旅行和搜索服务中全面接入 Gemini 模型，同时也在管理 AI 垃圾内容；Kapwing 实验显示，YouTube 推荐给新用户的初始短视频中超过20%为 AI 生成内容，一个热门AI垃圾频道此前据估计年收入达425万美元，已被暂停参与创收计划。

治理挑战

平台清理主要依赖上传速度、模板和账户行为等模式，可能误伤大量发布内容的合法创作者。Substack 的 AI 检测工具（由 Pangram 提供支持）被作者抱怨将人工帖子误判为 AI 生成，且不考虑 AI 的辅助创作角色。俄亥俄大学 AI 专家 Paul Shovlin 指出，AI 垃圾内容曾帮助平台提升参与度，如今却让用户难以找到高质量内容，形成利益冲突。卡内基国际和平基金会研究员 Aidan Walker 认为舆论风向已经变化，公司终于开始正视问题；哥伦比亚大学研究员 Camille François 则表示，各自为政的应对策略反映出这是信息环境中的系统性问题，仅靠定义和删除难以解决。欧洲研究人员警告，若放任不管，合成内容沼泽可能“挤压人类创造力，腐蚀文化价值，破坏公共话语”。