AI 研究與效率每日追蹤|2026-10-28
今日重點
今天最值得注意的是兩種不同層次的效率進展:OpenAI 推出偏重電腦操作的 GPT-6.1 Terra;NVIDIA 則公開了可拆解驗證的 MoE 推論加速測試。GPU 記憶體分額也開始有開源的 Kubernetes 執行方式,但目前不能把「能共享」解讀成「吞吐已提升」。新架構方面,機器人世界—動作模型 Phoenix 值得看,現有成績仍主要來自團隊自身評估。 openai.com
重要更新
1. OpenAI|GPT-6.1 Terra|10 月 26 日,正式發布
方法:以視覺理解與電腦操作為重點的新模型,供 ChatGPT Work、Codex 與 API 使用;官方未公開足以判斷具體架構改動的資料。
數據:官方在 Terminal-Bench 4.0、最高推理強度下測得任務通過率 50.3%,對照 GPT-5.6 Terra 已公布的 21.5%。這是官方評估;完整執行硬體、每題 token 用量及對照配置未公布,不能據此推算同條件速度增幅。
實際意義:提供開發者一個偏向高頻視覺與操作任務的模型選項。
限制與疑點:跨模型的實際任務成本與可靠度,仍需在相同代理流程中重測。
一手來源:官方發布 openai.com
2. NVIDIA|DGX Spark 上的 MoE 推論優化|10 月 27 日,技術解說
方法:對 Ling-3.0-flash 的 MoE 核心換用 Humming、將輸出層線上量化為 FP8,再用模型內建 NEXTN 做多 token 推測解碼。
數據:124B 總參數、每 token 5.1B 啟用參數;在單台 DGX Spark、batch 1、GSM8K 全部 1,319 題的五示例測試中,解碼由 37.81 升至 53.89 token/s(+42.5%),平均延遲 15.21 降至 11.49 秒;準確率 96.89% 對 96.82%。合成的 32K 輸入/2K 輸出測試增幅更大,但不可當作一般任務成績。
實際意義:指出瓶頸不只在 MoE 核心,也在輸出層讀取與逐 token 解碼。
限制與疑點:皆為 NVIDIA 自測、限此模型與單併發配置;三項優化若整合錯誤,反而可能比基準更慢。
一手來源:技術解說與測試設定 developer.nvidia.com
3. NVIDIA|Kubernetes GPU 記憶體分額|10 月 27 日,開源整合
方法:CUDA 13.4 的記憶體限制機制,配合開源 GPU Fractioning Operator 與 KAI Scheduler v0.18.0,讓容器指定保底記憶體、可擴張上限及運算共享模式。
數據:官方提供每張 GPU 保底 40 GiB、上限 60 GiB 等配置範例;未公布受控的吞吐、延遲或利用率提升測試。
實際意義:小型推論與實驗工作不必一律獨占整張 GPU,且記憶體界線可由節點執行。
限制與疑點:SM-sharing 的工作負載共用錯誤域;實際整併效益仍取決於負載組合。
一手來源:技術公告 developer.nvidia.com
新架構雷達
Anyverse Dynamics/OpenPhoenix|Phoenix-MWA|10 月 22 日
這是什麼:約 6B 可訓練參數的機器人世界—動作模型,以視覺潛在表示聯合預測未來觀測與動作,而非逐字生成語言。
符合的門檻:① 不同於傳統 LLM 的架構;② 有官方技術資料及部分公開程式碼。
廠商宣稱:經任務後訓練,在含 12 種手臂—手部組合、26 種任務配置的 Bench2Dex「完整擾動」測試,成功率 45.6%。
第三方驗證:尚未找到獨立重測;公開倉庫有預訓練程式,但編碼器訓練、資料管線等仍標示待提供,因此不能視為完整重現。
一手來源:專案與測試細節、程式碼與公開範圍 openphoenix-team.github.io
趨勢整理
- 效率要看真實負載:繼先前的 KV 傳輸與 TensorRT 調校,今天的 MoE 測試再次顯示合成長輸出數字不能直接代表代理任務。 developer.nvidia.com
- 資源管理走向細粒度:模型層減少每 token 工作量,部署層則嘗試讓多個工作共享 GPU;兩者的效益須分開量測。 developer.nvidia.com
- 世界模型走向動作閉環:Phoenix 把未來視覺狀態與動作一起預測,但跨機器、跨場景的泛化仍待外部實測。 openphoenix-team.github.io
值得追蹤
- Terra 在相同代理流程、相同推理預算下的第三方電腦操作與成本測試。 openai.com
- MoE 三項優化在較高 batch、不同輸出長度與其他模型上的收益。 developer.nvidia.com
- GPU 分額的受控利用率測試,以及 Phoenix 缺少的訓練資產與獨立機器人重測。 developer.nvidia.com