AI“造黄”黑色产业链曝光：平台“技术中立”难辞其咎

事件概述

近日，央视财经《财经调查》栏目曝光了一条借助生成式人工智能迅速蔓延的“造黄”黑色产业链。不法分子公开售卖包含“教程 + 提示词 + 生成软件”的套餐，用户仅需提供照片并输入指令，即可低成本、规模化地批量制造色情或擦边视频与图片。
尽管《生成式人工智能服务管理暂行办法》明确禁止生成淫秽色情内容，但违法者通过替换敏感词为英文、采用隐晦表达、下载境外软件或进行本地离线部署等方式，轻易绕过了监管审查，实现了高额非法牟利。

核心挑战：虚拟儿童色情的法律规制

在各类AI“造黄”行为中，涉及儿童形象的虚拟色情制品因其社会危害性极大而成为立法焦点。

• 传统困境：传统刑法通常要求色情制品必须涉及真实儿童受害者，对完全由AI生成的“虚拟儿童色情”是否入罪缺乏明确标准。部分观点曾认为这是“无被害人犯罪”，应予以非罪化。
• 共识转变：研究表明，消费AI生成的虚拟儿童色情会导致对性侵行为的脱敏，增加现实世界中接触式性侵犯儿童的风险。因此，西方多国开始调整立法逻辑，不再以“真实受害者”为唯一前提，转而直接打击AI生成行为本身。
• 国际动向：
  • 英国：拟推动新法案，将专门用于生成儿童色情素材的优化AI模型列为非法，新增罪名涵盖改造、持有、提供或兜售相关工具的行为，最高可判处五年监禁；同时将AI生成的虚拟儿童色情纳入与真实儿童色情同等的法律标准。
  • 荷兰：2023年通过对刑法扩大解释，将利用深度伪造技术制作和传播性露骨内容的行为纳入刑事处罚范围。

国内现状与平台责任争议

我国目前尚无针对AI生成色情内容的专门新法，主要依据《中华人民共和国刑法》第363条（制作、复制、出版、贩卖、传播淫秽物品牟利罪）和第364条（传播淫秽物品罪）进行管控。

犯罪形态演变

AI技术的普及使得违法犯罪门槛大幅降低，从过去的“专业化作案”降级为“大众化复制”。当前的“造黄”产业已形成分工严密的全链条体系：

• 上游：编写、贩卖涉黄提示词与规避教程。
• 中游：提供破解模型、境外软件及离线运行工具。
• 下游：批量生成内容、多平台分发并引流变现。

“技术中立”的边界

在此类链条化、分布式犯罪中，传统以“直接实行行为人”为中心的追责模式陷入困局。许多环节（如提示词贩卖者、模型提供者、平台方）往往以“技术中立”为由推卸责任。

文章指出，“技术中立”并非绝对免责牌。当平台明知其服务被大规模用于“造黄”，具备技术防控能力却故意不采取必要措施，并有意从流量和用户使用中持续获利时，这种辩解实质上是放任违法犯罪的借口。当前法律在明确AI生成违法内容的入罪边界、共同犯罪认定标准以及平台安全保障义务方面，仍缺乏清晰、可操作的答案。