OpenAI 用自动化红队训练提升 GPT-6 Astra 和 Sol 在高风险领域的模糊鲁棒性
Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming
AI 导读OpenAI 研究团队介绍如何用自动化红队提升模型在网络、生物等高风险双用途领域的模糊鲁棒性,通过扩大攻击者模型的测试时算力迭代搜索越狱,并要求攻击在多次重复测试中成功(worst@n),生成可靠的对抗训练数据用于 RL 训练。
来源:OpenAI:Alignment 研究博客 · alignment.openai.com
事件后续1
查看事件全部- OpenAI 用自动化红队训练提升 GPT-6 Astra 和 Sol 在高风险领域的模糊鲁棒性OpenAI:Alignment 研究博客 · 4 天前