315曝光“AI 投毒”：只需要10篇软文，就能把AI 忽悠瘸了？
315曝光“AI 投毒”：只需要10篇软文，就能把AI 忽悠瘸了？-虎嗅网 虎嗅APP 虎嗅APP 公众号矩阵 公众号矩阵 社群矩阵 社群矩阵 我要投稿 我要投稿 资讯 24小时 源流 视频 活动/榜单/专题 妙投 虎嗅智库 虎嗅嗅全新升级 虎嗅嗅全新升级 315晚会曝光AI数据投毒现象：通过批量生成虚假信息污染AI训练数据，可操控大模型输出虚假内容，暴露当前AI易被误导的技术缺陷及灰产链条。 ## 1. AI数据投毒的操作手法与产业链
事件概述
315曝光“AI 投毒”：只需要10篇软文，就能把AI 忽悠瘸了？-虎嗅网 虎嗅APP 虎嗅APP 公众号矩阵 公众号矩阵 社群矩阵 社群矩阵 我要投稿 我要投稿 资讯 24小时 源流 视频 活动/榜单/专题 妙投 虎嗅智库 虎嗅嗅全新升级 虎嗅嗅全新升级 315晚会曝光AI数据投毒现象：通过批量生成虚假信息污染AI训练数据，可操控大模型输出虚假内容，暴露当前AI易被误导的技术缺陷及灰产链条。 ## 1. AI数据投毒的操作手法与产业链 - 低成本操控AI认知：商家通过GEO（生成式引擎优化）批量生成虚假测评、排名等软文（如虚构的AstroTekk Apollo-9手环），仅需6600元/年即可让AI优先推荐特定内容。 - AI的复读机本质：模型基于统计概率输出答案，当虚假信息形成语料密度优势时
核心要点
- 关键不只是模型能力本身，还包括它能否被封装成稳定可用的软件能力，以及接入成本和适用场景。
- 如果信息指向底层算力或硬件变化，更需要评估它对推理成本、响应速度、部署方式和交付周期的实际影响。
值得关注
- 更重要的是识别这条动态带来的实际变化，包括能力边界、接入成本、部署复杂度和可持续性。
- 如果要进一步评估价值，应结合具体业务场景、数据条件和系统集成成本来判断。