MENU

OpenAI或于年内推出1至2款新模型 旗舰模型聚焦安全性与可监控性

OpenAI、年内に新モデル1〜2本投入か 旗艦モデルは安全性と監視可能性が焦点

据报道,一名OpenAI员工称,该公司很可能在年内推出1至2款新模型。不过,正在开发的旗舰模型是否会包含在其中,目前尚未确定。据称,旗舰模型还需要完成调整工作,使其行为符合研究人员和客户的预期,并加强测试基础设施。相关报道发布于2026年10月14日。

目次

年内推出的模型与旗舰模型之间的距离

这次报道需要把握的一点是,“推出新模型”和“推出旗舰模型”是两回事。员工预计,到年底前很可能会推出1至2款。但目前正在开发的大型升级版是否会包含在其中,仍存在变数。

旗舰模型还有两项重要工作尚待完成。一是对齐,也就是让AI的发展方向符合开发者和企业用户的期望。二是强化用于验证模型的测试环境。这两项工作都不会体现在性能竞赛的分数上,却会左右模型能否发布。

此外,即便管理层认可了内部安全评估,仍有一道关卡。据称,在基于特朗普总统行政令的先进AI评估框架下,OpenAI已同意在向外部合作伙伴提供新模型访问权限最多30天前,先向美国政府开放访问权限。要到面向公众发布,预计还需要更长时间。“完成后立即上市”的时代已经过去。

反复执行相同处理,让答案不断完善

旗舰模型的关键在于“循环型Transformer”。通常的模型会将作为语言最小单位的token仅通过层层堆叠的计算层一次,然后生成下一个词。循环型模型则会让token多次通过同一层后,再生成下一个词。据称,OpenAI已将这项技术以“Recurrent Depth”之名投入实际应用,并将其作为当前顶级模型Astra的核心。

其目标是提升数学和编程表现,并降低成本。即使是小型模型,也能通过反复思考发挥出超出自身规模的性能。这有点像反复研读同一本参考书,以加深理解。

性能越高,模型内部越难以看清

不过,这种方式也有代价。模型部分“思考”过程会以内部数值表示的形式进行,而不是以人类可读的文字呈现。此前,安全研究人员会追踪模型得出答案前的推理文本,以发现可疑行为。这就是对“思维链”的监控。循环次数越多,这种监控就越难触及模型内部。

据报道,OpenAI为Astra设定了循环次数上限,从而保持推理过程可读。这相当于在发布时有意保留了进一步提升性能的空间。据称,旗舰模型也将采用相同技术,下一步的焦点将是如何划定界限。

微软删除资料凸显技术机密性

微软的一份技术资料让这项机制的实际情况浮出水面。微软可以访问OpenAI的知识产权,本月公开了有关OpenAI推出的Astra平价版“GPT-6.1 Sol”的介绍。其中提到了“循环推理”,并说明模型会通过多个“轮次”处理同一个问题,然后给出答案。

资料称,GPT-6.1 Sol使用了与GPT-6 Sol相同的基础模型权重,并将推理轮次从3次减少到2次。这部分内容后来被删除。一名知情人士证实,该描述与OpenAI私下提供的信息一致。这表明,无论在训练还是推理阶段,循环型技术都是OpenAI格外谨慎对待的领域。

按照轮次数量区分价格档位和性能水平,这一思路有助于基于同一底座推出多款产品。但轮次越多,模型内部就越难以看清。产品设计和安全设计实际上连在同一个调节旋钮上。

占计算资源一成的数字

安全投入的规模也有具体说法。据称,在Hugging Face相关事件之后,OpenAI将约一成的总计算资源用于对齐和安全。如果按数据中心的用电规模衡量,相当于数百兆瓦;若按市场价格租用,年成本将达到数十亿美元。

研究员诺姆·布朗(Noam Brown)也在9月中旬的一档播客节目中表示,自己团队约有一成成员从事安全和安保工作。从组织规模来看,“一成”正逐渐成为一个参照数字。

能否保住可读的推理过程

首席科学家亚库布·帕乔茨基承认,对思维链的监控正变得“脆弱”,“遗憾的是,情况正在朝着糟糕的方向发展”。他还曾警告称,整个行业正陷入一场竞赛,纷纷转向不具备可读推理过程的模型。

性能提升和成本下降,从商业角度看都很有吸引力。也正因如此,问题在于:在不放弃可监控性的前提下,性能究竟还能提升到什么程度。年内将推出的1到2款模型,应该会展现这一问题的阶段性答案。比起旗舰模型何时发布,我更关心它将以何种状态亮相。

OpenAI、年内に新モデル1〜2本投入か 旗艦モデルは安全性と監視可能性が焦点

この記事が気に入ったら
フォローしてね!

よかったらシェアしてね!

コメント

コメントする

目次