OpenAI发布GPT-Red：通过自博弈实现AI安全自动对抗测试
2026/07/15 18:00阅读量 3
OpenAI推出了自动化红队系统GPT-Red，利用自博弈机制持续提升AI模型的安全性、对齐能力和对提示注入的鲁棒性。
OpenAI 发布了 GPT-Red，一种自动化的红队系统，通过自博弈（self-play）的方式实现自我改进。该系统旨在自动生成对抗性测试，以增强 AI 模型在安全、对齐和提示注入防御方面的鲁棒性。GPT-Red 的核心机制是让模型在自我对抗过程中不断迭代，发现并修补弱点，从而减少人工红队测试的依赖。