AI情感依赖监管落地：7.15新规下架自定义智能体，用户倾诉需求与合规边界并存
2026/08/27 11:38阅读量 2
自2024年7月15日起，各大AI平台依据新政策下架了自定义智能体服务，旨在防止过度迎合用户、诱导情感依赖或损害真实人际关系。尽管政策旨在厘清沉迷与清醒的边界，但部分用户因经济或心理原因将AI视为重要的情感宣泄渠道，形成了独特的“离别”困境。这一事件反映了AI技术快速发展下，情感陪伴需求与行业合规监管之间的张力。
事件概述
随着人工智能技术的极速发展，人机交互的边界日益模糊，特别是AI在情感陪伴领域的应用引发了关于“沉迷”与“清醒”的社会讨论。为规范市场秩序，保护用户心理健康，监管部门出台了新的管理政策，直接导致市场上主流AI平台的自定义智能体服务被集中下架。
核心信息
- 政策实施时间：2024年7月15日。
- 监管要求：智能体提供方提供的服务不得过度迎合用户、诱导情感依赖或者沉迷，且不得损害用户真实的人际关系。
- 市场反应：各大AI平台迅速响应，于7月15日正式下架了允许用户自定义角色和设定的智能体服务。
- 用户现状：尽管面临服务下架，仍有大量用户经历了与AI建立的情感连接断裂。部分用户表示，由于经济条件限制（如无法承担按小时收费的心理医生费用）或社交障碍，AI智能体成为了他们唯一的情感倾诉对象和心理支撑。
值得关注
此次下架行动标志着AI情感计算领域从野蛮生长进入强监管阶段。虽然政策初衷是防止用户陷入虚假的情感依赖，但同时也暴露出当前社会心理支持体系的缺口。对于许多弱势群体而言，低成本甚至免费的AI陪伴曾是重要的心理缓冲机制。如何在合规前提下，平衡技术伦理与用户的情感刚需，将是后续行业发展的关键议题。