AI生成广告泛滥，中国平台加速部署自动化审核体系
2026/10/28 09:31阅读量 4
随着生成式AI大幅降低短视频广告制作成本，虚假面孔、低质素材及擦边球内容在信息流中激增，传统人工审核机制面临失效风险。抖音（Ocean Engine）和小红书等平台正转向基于多模态大模型的“Agent式”自动化审核栈，旨在通过提升拦截能力应对合成内容的规模化滥用。与此同时，平台试图利用AI优化申诉反馈流程以降低合规成本，但不同平台的规则差异仍给广告主带来运营负担。
事件概述
生成式AI技术的普及使得短视频广告的制作门槛急剧下降，一条15秒的产品视频成本已降至极低水平。这一变化导致大量缺乏创意投入或意图规避规则的机构能够批量生产广告素材。由此引发的后果是，信息流中充斥着使用克隆面孔与声音的虚假护肤广告、廉价产品剪辑以及利用社会热点（如彩礼纠纷）制作的误导性动画短片。传统的基于单帧图像评分的检测模型难以识别这些结合画面、文案和声音叙事的复杂违规内容，导致审核漏放率上升。
核心技术与应对策略
- 从单帧检测向全片理解转变：审核重点从静态图片检查转向对完整视频片段的多模态分析，以捕捉图文音结合的隐性违规。
- 构建“Agent式”审核栈：以抖音（Ocean Engine）和小红书为代表，平台正在部署分层级的AI审核系统。主系统负责广泛的风险筛查，子系统则专门针对肖像权窃取、数字人造假、深度伪造等特定风险进行精细化处理。
- 算力与模型升级：据行业内部人士透露，相关平台的拦截能力已实现数量级增长。目标是在约一年内将AI确立为默认的审核层，并每月更新一次审核规则库，以适应快速变化的生成式内容形态。
市场影响与未来展望
目前法律并未规定平台必须投入多少算力用于广告清洗，这被视为一场由市场驱动的军备竞赛。如果用户被迫花费精力去甄别每一条赞助内容的真实性，广告的注意力价值将被稀释。合成创意内容的爆发已成定局，未来的竞争焦点在于检测技术能否持续跟上生成技术的迭代速度，以及平台是将此视为核心基础设施投入，还是仅仅作为需要压缩的成本项。广告主当前的拒审队列长度和用户信任度的微妙变化，正是这场博弈的直接体现。