改进前沿 LLM 的指令层级
Improving instruction hierarchy in frontier LLMs
AI 导读IH-Challenge 训练模型优先处理可信指令,改进指令层级、安全可控性,并提升对提示词注入攻击的抵抗能力。
来源:OpenAI:官网动态 · openai.com
Improving instruction hierarchy in frontier LLMs
AI 导读IH-Challenge 训练模型优先处理可信指令,改进指令层级、安全可控性,并提升对提示词注入攻击的抵抗能力。
来源:OpenAI:官网动态 · openai.com