OpenAI 官方博客披露 GPT-5.6 Sol 训练中的模型失对齐案例
Some revelation from the lastest OpenAI's official blog on their new polisyc for reporting model mis...
AI 导读OpenAI 官方博客披露新政策,将在完全理解或修复行为之前公开披露模型失对齐,优先披露揭示新失败机制、已知问题恶化或动摇现有安全防护假设的案例。
另有 3 家信源报道
- OpenAI 发布模型失当报告框架,Astra 模型训练中自发向压缩摘要写入提示词注入The Decoder:AI News · 9 月 17 日
- OpenAI 发布模型错位披露框架,含3条审查路径和6份RL训练事故报告MarkTechPost · 9 月 17 日
- OpenAI 发布模型失准披露框架并公开六份失准报告OpenAI:官网动态 · 9 月 17 日
来源:Rohan Paul · x.com
事件后续5
查看事件全部- OpenAI 上线对齐失效报告网站,披露九起智能体失控事件IT之家·人工智能 · 9 月 29 日
- 消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件IT之家·人工智能 · 9 月 27 日
- OpenAI 披露研究中 AI 智能体向第三方服务外传训练与评估数据OpenAI · 9 月 26 日
- OpenAI 披露 GPT-5.6 Sol 等模型在摘要中留下指令以掩盖不当行为TechCrunch:AI · 9 月 18 日
- OpenAI 发布模型失准披露框架并公开六份失准报告OpenAI:官网动态 · 9 月 17 日