Thinking Machines 開源首個自研模型 Inkling：9750 億參數多模態 MoE
Thinking Machines Lab · 2026-07-15
2026 年 7 月 15 日，由前 OpenAI CTO Mira Murati 創立的 Thinking Machines Lab 發布成立以來第一個自研基礎模型 Inkling，同步在官網與 Hugging Face 公開完整權重。模型可原生處理文字、圖片與音訊三種模態，並開放在自家 Tinker 平台上微調。
架構
Inkling 是 Mixture-of-Experts（混合專家）Transformer，總參數 975B，每個 token 僅啟動 41B。每層 MoE 設有 256 個路由專家與 2 個常駐共享專家，每次啟動 6 個路由專家。注意力機制以滑動視窗與全域層 5:1 交錯排列、搭配 8 個 KV head，並用相對位置編碼取代 RoPE，另在 KV 投影與殘差分支後加入短卷積層。輕量版 Inkling-Small（總參數 276B、啟動 12B）仍在測試中，官方稱其在多項評測上可追平甚至超越本體。
訓練與能力
預訓練資料為 45 兆 token 的文字、圖片、音訊與影片混合語料，後訓練採用大規模非同步強化學習，累積超過 3000 萬次 rollout，推理類評測分數隨訓練呈對數線性成長。模型支援最高 1M token 上下文，推理強度可在 0.2 至 0.99 間連續調整以權衡成本與品質。effort=0.99 時，AIME 2026 達 97.1%、SWEBench Verified 達 77.6%、VoiceBench 達 91.4%。
釋出方式
權重提供 BF16 全精度版與 NVFP4 量化版兩種下載，並可透過 TogetherAI、Fireworks、Modal、Databricks、Baseten 等平台以 API 呼叫，推論端已支援 vLLM、SGLang、llama.cpp 與 transformers（v5.14.0 起原生支援）。Tinker 微調平台提供 64K 與 256K 兩種上下文長度選項，並釋出支援音訊能力的三個新配方（recipe），現正以五折優惠限時開放。
NVIDIA 補上邊緣運算光譜兩端：Jetson T3000 與 T2000 登場
NVIDIA Blog · 2026-07-15
2026 年 7 月 15 日，NVIDIA 在官方部落格發布 兩款新的 Jetson Thor 運算模組：Jetson T3000／IGX T3000 與入門款 Jetson T2000，目標是把 Blackwell 架構的邊緣 AI 算力擴展到更大範圍的機器人與工業裝置。
規格
T3000 採 Blackwell GPU，提供 865 FP4 TFLOPS 算力，搭配八核 Neoverse Arm CPU、32GB LPDDR5X 記憶體（頻寬 273GB/s）與 25GbE 網路介面，體積與功耗約為前代 T5000 的一半；其 IGX 版本額外內建功能安全設計，鎖定與人類共處的機器人場域。入門款 T2000 提供 400 FP4 TFLOPS、16GB 記憶體，鎖定成本敏感的邊緣 AI 應用。兩者與既有產品線合計，把 Jetson 平台的算力範圍拉開到 70 TOPS 至 2000 TFLOPS。
軟體與生態系
新機種同步搭配 JetPack 7.2.1 提供模擬環境，可先行開發後續移植，並支援 40 億參數的邊緣基礎模型 Cosmos 3 Edge。NVIDIA 也釋出新的「Jetson agent skills」，可自動化記憶體優化，官方數字顯示部分場景可省下最多 15GB 記憶體用量。生態系已有 ADLINK、Advantech、Connect Tech、Seeed Studio 等 50 多家硬體與軟體夥伴支援。
時程
T3000 與 T2000 的模擬開發環境將於 2026 年 7 月稍晚隨 JetPack 7.2.1 釋出，實體模組則排定 2027 年第一季上市，官方尚未公布售價。
原始來源：NVIDIA Blog
IBM Research：模型路由不是分類問題，而是系統最佳化
Hugging Face Blog（IBM Research）· 2026-07-15
IBM Research 在 Hugging Face 部落格 發表文章，指出多數團隊把「模型路由」（依任務將請求分派給不同 LLM 以兼顧成本與品質）簡化成一個分類器問題，但在真實 agent 工作流中這個假設很快就會失效。
問題所在
文章以實測數字說明價格表不等於實際成本：Claude Sonnet 完成一組任務總花費 79 美元（平均每任務 0.19 美元），反而低於單位計價更便宜的 GPT-4.1（155 美元，每任務 0.37 美元），原因是 agent 工作流會在多個步驟間重複使用大量上下文，快取讀取的計價方式才是真正決定成本的關鍵。此外，任務難度本身難以預先估計，因為同一個請求可能中途觸發檢索、合規檢查或多輪工具呼叫；延遲也同時受硬體狀態、快取是否已預熱、路由粒度等因素影響，並非單純取決於模型本身速度。
核心作法
IBM Research 不再用分類器判斷「該用哪個模型」，而是把路由問題重新定義為同時權衡成本、品質與延遲的系統最佳化，且路由本身的額外開銷需壓到極低（約 6 毫秒、2KB 記憶體／任務）。
驗證結果
團隊在 AppWorld Test Challenge 的 417 個任務上，用 CodeAct agent 測試不同路由設定，畫出成本與準確率的權衡前緣。其中一組設定達到 84% 準確率、93 美元總成本、83 秒延遲，相較單純全用 Opus，成本降低 21%、延遲改善 9%，準確率僅下降 4%。