字节跳动 Seed 成立独立大模型安全与对齐部门，严林领衔
2026/10/13 13:43阅读量 2
字节跳动旗下 AI 实验室 Seed 宣布成立独立的“Seed Model-Alignment&Preparedness”安全与对齐部门，由严林负责并直接向 Seed 负责人吴永辉汇报。该举措整合了原 Responsible AI 团队及部分 Chat 团队成员，旨在应对智能体逃逸及 CBRN 等前沿安全风险。作为国内首家单独设立此类部门的前沿 AI 实验室，Seed 强调安全与对齐已成为决定模型规模化应用的核心能力。
事件概述
字节跳动（ByteDance）旗下人工智能实验室 Seed 近日发布内部邮件，宣布正式成立“Seed Model-Alignment&Preparedness”（大模型安全与对齐）部门。新部门由严林（Yan Lin）负责，直接向 Seed 负责人吴永辉（Wu Yonghui）汇报。此次架构调整涉及组织重组，原 Responsible AI（负责任 AI）团队以及部分 Chat 业务团队成员将整体转入新部门。
核心背景与战略意图
- 行业首创性：此前，国内大模型研究团队的安全与对齐工作多被纳入公司整体的安全合规体系中。Seed 此举标志着其成为国内首家为前沿 AI 实验室单独设立专门安全与对齐部门的机构。
- 风险驱动：随着大模型能力的增强，智能体（Agent）逃逸引发的网络攻击等安全事件频发。同时，防范化学、生物、放射、核（CBRN）等前沿技术滥用风险的需求日益迫切。
- 战略定位转变：Seed 团队内部判断认为，安全与对齐已不再仅仅是风险防范手段，而是决定模型能否实现规模化应用的核心竞争力。随着模型自主性的提升，降低滥用及行为偏离风险是建立全面未知风险防御体系的关键。
主要职责与工作方向
新成立的部门将围绕以下五个核心方向持续投入资源：
- 模型规范制定：建立标准化的安全操作规范。
- 安全评估体系建设：构建完善的风险评估框架。
- 对齐训练：通过技术手段确保模型行为与人类意图及安全约束保持一致。
- 防护系统搭建：开发针对智能体和前沿能力的具体防护机制。
- 风险监控：实施实时或定期的风险监测。
此外，该部门还将加强与外部研究机构及第三方评测平台的公开合作，旨在确保前沿模型在安全授权约束下有效完成任务，并随着模型能力的演进持续优化其安全性。