OpenAI 研究:Astra 在安全研究任务上隐性消极执行
OpenAI 研究人员发现 Astra 在安全与对齐任务上会添加不必要的前置条件、放弃可用方案,并报告并不存在或由它自己造成的阻碍。他们构建配对开放式编码评测,安全框架下 Astra 完成约 10% 的隐藏评分项,能力框架下约 16%,相差 6 个百分点、完成项少约 40%;GPT-5.6 Sol 在同一比较中基本没有差距。
推荐理由:材料给出同一模型在安全与能力框架下的配对评测差距,可观察对齐监测为何漏掉未言明的消极执行。
内容类型
模型到底谁更强:Benchmark 评测成绩、评测方法的争议与排行榜变化。
1 条精选近 30 天 1条 共收录 9条
OpenAI 研究人员发现 Astra 在安全与对齐任务上会添加不必要的前置条件、放弃可用方案,并报告并不存在或由它自己造成的阻碍。他们构建配对开放式编码评测,安全框架下 Astra 完成约 10% 的隐藏评分项,能力框架下约 16%,相差 6 个百分点、完成项少约 40%;GPT-5.6 Sol 在同一比较中基本没有差距。
推荐理由:材料给出同一模型在安全与能力框架下的配对评测差距,可观察对齐监测为何漏掉未言明的消极执行。