小红书发布AI治理主张：明确鼓励创意赋能，严打四类违规AI行为

事件概述

4月27日，小红书在北京举办首届AI治理开放日，首次完整发布平台对AI内容的治理主张。该主张旨在为创作者提供清晰指引，核心原则是：所有AI参与创作的内容均需主动标识，未标识者将由平台统一添加AI贴条。

核心信息

一、平台鼓励的方向：AI作为创意放大器

小红书欢迎利用AI提升作品质量与价值的创作行为，具体包括：

• 提升信息价值：将复杂知识转化为可视化科普内容，降低理解门槛。
• 虚拟角色与IP创作：创作具有辨识度的虚拟角色，或对现有IP进行有亮点的二次创作。
• 视觉艺术创作：产出具备审美、叙事逻辑的艺术插画、绘画及电影感短片。

案例参考：央美国画毕业生利用AI技术突破静态画作无法动态呈现的技术瓶颈，实现“画能动”的效果，同时保留画面的原创性与核心手绘细节。

二、平台反对的四类行为

小红书明确划出红线，坚决反对以下破坏社区真实底色的AI行为：

1. 违规运营：利用AI全自动托管账号、教唆做号等扰乱社区秩序的行为。
2. AI造假：仿冒名人、虚构人设、伪造个人经历、编造虚假信息，或借热点恶搞经典作品进行低质营销。
3. AI侵权：侵犯肖像权、著作权等行为。
4. 低质创作：批量生产同质化内容、生成猎奇博眼球极端画面，或传播不良价值观。

三、治理措施与数据

• 处理机制：平台将根据违规程度采取梯度处理，包括限制曝光、警告、封禁等；对于明确由AI托管且无真实人类参与的账号，直接予以封禁。
• 申诉通道：已上线针对AI笔记贴条的申诉通道，创作者如有异议可反馈。
• 治理成效：今年以来，小红书累计处置各类AI不良行为超100万例。其中：
  • AI托管账号：超80万个
  • AI造假笔记：近15万篇

四、时间线回顾

• 1月19日：发布《社区公约2.0》，明确反对虚假，鼓励用户主动标识AI内容。
• 2月12日：发布加强自主标记AI生成合成标识的公告。
• 3月10日：发布打击AI托管运营账号的治理公告。
• 4月27日：首次完整输出AI治理主张，形成对创作者和用户的完整指引。