據報導,一名 OpenAI 員工表示,公司很可能會在年內推出 1 至 2 款新模型。不過,仍未確定正在開發的旗艦模型是否會列入其中。據稱,旗艦模型還需要完成調整工作,確保其行為符合研究人員與客戶的期待,並強化測試基礎設施。報導日期為 2026 年 10 月 14 日。
年內推出的模型,與旗艦模型之間的距離
這次報導值得留意之處,在於「推出新模型」和「推出旗艦模型」是兩回事。據員工評估,到年底前很可能會推出 1 至 2 款模型。不過,目前正在開發的大型升級版是否會列入其中,仍有變數。
旗艦模型還有兩項重大待辦工作。其一是對齊,也就是調整 AI 的發展方向,使其符合開發者或企業客戶的需求。另一項是強化用於驗證模型的測試環境。這兩者都不會反映在效能競賽的分數上,卻是決定能否出貨的關鍵環節。
此外,即使管理階層對內部安全評估結果感到滿意,仍有一道關卡。據稱,根據川普總統行政命令所訂定的先進 AI 評估框架,OpenAI 已同意在將新模型交給外部合作夥伴前,最多提前 30 天向美國政府提供存取權限。一般公開發布前,預計還需要更長時間。「完成後立即上市」已不再是可行做法。
反覆執行相同處理,讓答案更加完善
「迴圈式 Transformer」是旗艦模型的關鍵。一般模型會讓最小的語言單位 token 只經過一次層層堆疊的計算,再輸出下一個詞。迴圈式模型則會讓 token 多次經過同一層,才輸出下一個詞。據稱,OpenAI 已以「Recurrent Depth」之名將這項技術投入實際運用,並將其作為現行頂級模型 Astra 的核心。
目標是提升數學與程式設計表現,同時降低成本。即使是較小的模型,也能透過反覆思考發揮超出原本水準的效能。這有點像反覆研讀同一本參考書,以加深理解。
效能愈高,內部運作愈難看透
不過,這種做法也有代價。模型部分「思考」過程將不再以人類可讀的文字呈現,而是在內部的數值表示中進行。過去,安全研究人員會追蹤模型得出答案前的推理文字,從中找出可疑行為,這就是「思維鏈」監控。迴圈愈多,監控就愈難以觸及這些過程。
據報導,OpenAI 為 Astra 設定了迴圈次數上限,以維持推理過程可讀。換言之,該公司在模型出貨時,刻意保留了提升效能的空間。據稱旗艦模型也會採用相同技術,接下來的焦點將是如何拿捏界線。
Microsoft 刪除文件,凸顯技術機密性
Microsoft 的技術文件讓這套機制的實際面貌曝光。Microsoft 可存取 OpenAI 的智慧財產,該公司公開了 OpenAI 本月推出的 Astra 平價版「GPT-6.1 Sol」說明文件。其中提到「迴圈推理」,並說明模型會以多個「通過」處理同一道問題,再產生答案。
根據文件描述,GPT-6.1 Sol 使用與 GPT-6 Sol 相同的基礎模型權重,並將推理通過次數從 3 次減至 2 次。這段內容後來已遭刪除。一名知情人士證實,文件中的描述與 OpenAI 私下提供的資訊一致。這顯示,無論在訓練或推論階段,迴圈式技術都是 OpenAI 謹慎處理的領域。
依照通過次數區分價格帶與效能,是以相同基礎推出多款產品的合理做法。然而,次數愈多,內部運作就愈難看透。產品設計與安全設計,實際上連結在同一個調節鈕上。
計算資源的 10%
安全投資的規模也有具體數字。據稱,在 Hugging Face 相關事件後,OpenAI 將約 10% 的總計算資源投入對齊與安全工作。若以資料中心的電力規模計算,相當於數百兆瓦;若按市場價格租用,每年成本將達數十億美元。
研究人員諾姆・布朗(Noam Brown)也在 9 月中旬的 Podcast 節目中表示,他的團隊約有 10% 的人力投入資安與安全工作。就組織規模而言,10% 正逐漸成為一項參考指標。
能否保住可讀的推理過程?
首席科學家雅庫布・帕喬茨基(Jakub Pachocki)承認,思維鏈監控正變得「脆弱」,而且「遺憾的是,情況正朝不好的方向發展」。他也曾警告,整個產業正陷入一場競賽,競相開發不具備可讀推理過程的模型。
效能提升與成本降低,對業務而言都很有吸引力。正因這些優勢如此誘人,問題在於如何在不放棄可監督性的前提下持續提升。年內推出的1至2款模型,應會呈現這個問題的階段性答案。比起旗艦模型何時推出,我更在意它推出時會是什麼狀態。


コメント