OpenAI称GPT-6 Astra的CoT可监测性显著下降
OpenAI披露，GPT-6 Astra较前代模型出现“显著”的思维链（CoT）可监测性下降。首席科学家Jakub Pachocki称，依赖CoT监测的能力正“逐步减弱”，原因之一是模型越来越能控制自身推理过程，并能在更少甚至无需语言化推理的情况下完成更复杂任务。官方开发文档同时提醒，Astra的代理间消息可能出现语法或空格错误。英国AI Safety Institute的外部评估还发现，Astra的原始推理更加压缩，含义不清的短语有所增加。
OpenAI (1 , 2)
在花频道 · 茶馆水群 · 投稿通道
0 评论