AI 研究與效率每日追蹤|2026-11-02
今日重點
過去 24 小時,追蹤名單內沒有值得列為重大進展、且能以一手資料確認的新成果;放寬到 72 小時也沒有需要重報的重大後續。今天值得看的反而是名單外的 SenseNova:它用共享權重重複執行模型層,試圖以較少的獨立參數換取更深的計算路徑。不過模型卡尚未提供可比較的速度或品質基準,現在只能確認設計,不能確認效益。 huggingface.co
重要更新
今天沒有重大進展。
新架構雷達
SenseNova|SenseNova-Loop-9B-Preview|10 月 30 日
這是什麼:仍是自回歸多模態模型,但不同於傳統逐層各用一組權重的堆疊:它將其中 24 層執行兩次,以 32 組獨立層權重完成 56 次層計算,並加入雙流 mHC 與線性/完整注意力混合設計。模型卡列出約 9B 骨幹參數、約 14.6B 推論參數,以及最高 262,144 token 的訓練序列長度;後者不等於已驗證的部署上下文長度。 huggingface.co
符合的門檻:① 改變傳統 LLM 的層堆疊方式;② 已提供官方模型卡、權重與推論程式碼。它並非完全脫離 LLM 的新範式。 huggingface.co
廠商宣稱:共享權重可增加計算深度而不複製該區塊參數;推論加速的實際幅度取決於負載、硬體與部署設定。模型卡的「Key Benchmarks」目前未列測試結果,因此官方沒有公布可核對的速度、品質、GPU、batch 或對照模型條件。 huggingface.co
第三方驗證:尚未找到可比較的獨立重測,不能推論它比一般 9B 模型更快或更好。 huggingface.co
一手來源:SenseNova 模型卡與權重。 huggingface.co
趨勢整理
- 效率不只看參數量:SenseNova 把「儲存多少組權重」與「實際執行多少層」拆開;是否划算,仍須同時量測記憶體、延遲與品質。 huggingface.co
- 部署數字要守住條件:先前 NVIDIA 的邊緣推論測試有指定硬體與生成設定;這類數字不能直接拿來推算另一個模型的速度。 developer.nvidia.com
- 新架構重視可驗證性:昨日看到的 Algebraic World Model 著重可執行規則與證明;今天的循環層模型則已有權重,但缺可比較基準。兩者下一步都需要外部重測。 arxiv.org
值得追蹤
- SenseNova 是否補上同硬體、同精度、同 batch 與上下文長度的速度/品質對照,以及第三方能否重現。 huggingface.co
- 循環層在長上下文與 Agent 工作負載下,節省的權重記憶體是否足以抵銷額外層計算。這仍是待測問題,不是已證實的收益。 huggingface.co