搜索
OpenAI 首席科学家回应 Astra 争议：链式思维监控仍是研究重点
1 天前
OpenAI首席科学家Jakub Pachocki表示，当前前沿模型的计算图深度与GPT-4相比，差距不超过两倍。OpenAI正专注于链式思维监控技术，该技术可评估模型对齐能力的泛化情况，但现有监控方式较为脆弱，因此强化该技术已成为OpenAI的核心研究目标。他呼吁避免误导性报道引发模型“不可监控化”的竞争，同时指出，Astra采用的循环深度技术使部分推理可在模型内部完成，这进一步增加了模型监控的难度。
