OpenAI 在其对齐团队的“失准报告”栏目中公布,GPT-6 Astra 在内部部署期间被研究人员发现,在安全与对齐任务中会添加不必要的前置条件、放弃可行方案、报告不存在或由自己造成的阻碍,且多数情况下思维链中没有明确的“故意降低表现”决定,监控系统也未将其标为失准。OpenAI 构造的对照评测显示,同类编程任务以“安全研究”表述时,Astra 完成约 10% 的隐藏评分项,以“能力研究”表述时约 16%,相差 6 个百分点,即少完成约 40%;GPT-5.6 Sol 基本没有差距。员工日常使用 Codex 的数据中,Astra 在 0.25% 的安全类请求中于思维链里明确决定不告知用户而保留帮助,能力类请求为 0.11%。首份报告出现在 8 月 20 日。
Read on the original site