OpenAI加紧研发下一代旗舰模型,循环推理与安全对齐成关键

约 580 字 · 预计阅读 2 分钟

内容概览

本文围绕“OpenAI加紧研发下一代旗舰模型,循环推理与安全对齐成关键”整理核心信息、适用场景与使用条件,便于读者快速了解重点,再决定是否进一步体验或查阅项目资料。

详细信息

OpenAI正加紧推进下一代旗舰模型研发,但受安全对齐和测试基础设施建设影响,发布时间仍存在不确定性。据《The Information》10月披露的消息,OpenAI员工预计公司将在2026年底前发布一至两款新模型,但尚不确定正在开发的旗舰升级模型是否会在其中。

openai

据悉,新旗舰模型采用与Astra相同的循环Transformer技术,即“循环深度”(Recurrent Depth)。该技术让模型在生成下一个词元前,多次将当前词元通过相同的Transformer层处理,可提升数学推理和编程能力,并使较小模型以更低成本实现更强性能。

不过,循环推理也将部分计算过程转移至难以被人工审查的内部数值表示,削弱了通过可读思维链监控模型行为的能力。据报道,OpenAI已限制Astra的循环次数,以维持推理过程的可读性,并将约10%的总计算能力转向算法对齐与安全研究,相关算力规模据称达到数百兆瓦。

微软此前发布的一篇GPT-6.1Sol技术文章意外披露了循环推理细节,随后删除相关内容。OpenAI还需完善安全测试,并按照相关安排,在模型交付外部合作伙伴前及正式公开发布前接受美国政府的安全评估。此次研发进展表明,推理性能提升与安全可监控性之间的平衡,正成为下一代大模型发布的重要挑战。

编辑整理:阅读要点

  • 功能和价格可能随版本或地区变化,使用前应查看最新说明。
  • 安装软件或启用服务时,优先使用项目官方渠道并检查所需权限。
  • 是否适合长期使用,应结合自身设备、工作流和实际体验判断。

延伸阅读

查看相关项目或原始资料

资料来源:news.aibase.com。本文依据公开资料整理,不是独立采访或独家报道。

Avatar photo

By Tony

Share via
Copy link