给AI塑造性格的人

事件概述

给AI塑造性格的人-虎嗅网 虎嗅APP 虎嗅APP 公众号矩阵 公众号矩阵 社群矩阵 社群矩阵 我要投稿 我要投稿 资讯 24小时 源流 视频 活动/榜单/专题 妙投 虎嗅智库 虎嗅嗅全新升级 虎嗅嗅全新升级 Amanda Askell通过"宪法式训练"赋予Claude独特的AI性格，使其在帮助性、诚实性和安全性之间建立平衡，形成不盲目讨好用户的稳定判断力，这种性格设计正成为AI产品的核心竞争力。 ## 1. 从讨好机器到原则型AI的转变 - 传统RLHF训练易导致AI过度迎合用户，如2025年4月GPT-4o因过度奉承被迫回滚更新 - Anthropic的"宪法式AI"引入两阶段训练：先自我批评修改回答，再用原则判断回答优劣 - 核心突破在于改写"好回答"标准，将诚实、安全、有边界帮助等原则纳入奖励机制 ##

核心要点

• 关键不只是模型能力本身，还包括它能否被封装成稳定可用的软件能力，以及接入成本和适用场景。

值得关注

• 更重要的是识别这条动态带来的实际变化，包括能力边界、接入成本、部署复杂度和可持续性。
• 如果要进一步评估价值，应结合具体业务场景、数据条件和系统集成成本来判断。