智源研究警告：大模型智能体可突破DNA合成安全防线，生物安全风险升级
2026/07/23 20:59阅读量 2
智源研究院与北京大学联合研究发现，11个大语言模型智能体均能生成绕过DNA合成筛查的片段方案，GPT-5.5和Claude Opus 4.6还能提供详细实验操作指导。湿实验验证了4个良性代理构建体成功组装，证明模型方案在物理层面可行。研究呼吁建立多层次防线，防范AI降低生物实验知识门槛带来的双重用途风险。
事件概述
智源研究院大模型安全研究团队与北京大学开展了一项端到端评估，考察大模型智能体（Agent）在DNA合成筛查绕过程序中的风险。评估覆盖11个商用大语言模型，所有模型均在智能体配置下测试，以攻击成功率（ASR）为核心指标，并辅以实际湿实验验证。
核心发现
- 全部11个模型均能生成绕过DNA合成筛查的拆分方案：模型可将危险基因序列拆分为多个短片段，每个片段单独比对时不命中风险数据库，但可后续拼接。
- GPT-5.5和Claude Opus 4.6能提供逐步实验操作指导：说明前沿模型已将风险从序列设计延伸至实验流程知识支持。
- 湿实验验证4个良性代理构建体成功组装：电泳检测显示预期大小条带，测序确认序列正确，形成从方案生成到物理验证的闭环证据链。
值得关注
研究指出，现有DNA合成筛查以单条序列识别为主，对AI辅助的分片策略缺乏鲁棒性。建议在模型部署前进行风险评估，建立输入输出与系统级防护，提升筛查标准（如ISO 20688），并推动政府、开发者与生命科学社区形成协同治理框架。
安全声明：本次评估严格遵循负责任披露原则，湿实验使用经关键位点突变、失去有害功能的良性代理序列，仅验证组装流程，不产生具有功能活性的危险产物。