開源模型 Aether-7B-5Attn：以 7×7 拉丁方陣排列五種混合注意力機制
Hugging Face Blog · 2026-07-20
Hugging Face 部落格於 2026-07-19 刊出 FINAL-Bench 團隊釋出的開源模型 Aether-7B-5Attn，總參數 6.59B（MoE 架構下每個 token 實際啟動約 2.98B），採 Apache-2.0 授權。這篇文章的重點不是單純開源一個模型，而是一項關於「異質注意力（heterogeneous attention）」排列方式的對照實驗。
核心改動：拉丁方陣排列的五種注意力
模型在 49 層中混用五種注意力機制：標準全注意力（Full）、差分注意力（Differential，將兩組 softmax 注意力圖相減以抵消共模雜訊）、滑動視窗注意力（Sliding，窗口大小 512）、原生稀疏注意力（NSA，由壓縮／選取／滑動三分支經學習閘控組合而成）、以及 NSA 與 Differential 混合而成的 Hybrid。這五種類型依 7×7 拉丁方陣排列，確保每種類型在每個深度區段與相位位置上都恰好出現一次，避免任何一種注意力集中在特定深度。全部 49 層共用相同的 hidden size 2048，以及 16 個 query head、4 個 KV head 的配置。作者稱目前尚無已發布模型以拉丁方陣方式排列異質注意力。
影響範圍：僅公布單一基準分數
文章目前只公布一項量化結果：指令微調版本 Aether-7B-5Attn-it 在學習率 6e-6 下，K-AI 4-benchmark 平均分數從基礎模型的 26.7% 提升至 34.9%（+8.2 個百分點）。文章未提供與同規模標準注意力模型的直接消融比較，因此拉丁方陣排列本身對效能的實際貢獻，仍需第三方復現驗證。
Codex 0.144 回填 PR：GPT-5.6 系列三款模型情境窗口從 372k 降至 272k
GitHub · openai/codex · 2026-07-18
openai/codex 倉庫的 PR #33972（Backport refreshed bundled model metadata to 0.144）已於 2026-07-18 合併，將 GPT-5.6 三個模型變體的內建情境窗口設定同步調降。這是一次把 main 分支既有提交回填到穩定版 0.144.x 的中繼資料整併，而非單獨針對情境窗口大小的公告。
核心改動：三個 GPT-5.6 變體同步調整
diff 顯示 codex-rs/models-manager/models.json 中 gpt-5.6-sol、gpt-5.6-terra、gpt-5.6-luna 三個模型的 context_window 與 max_context_window 均從 372000 改為 272000；同一批 diff 也調整了模型人設指令文字、reasoning summary 格式與稽核目錄等中繼資料。PR 說明中並未提及調降情境窗口的具體原因，只交代這是把已在 main 生效的提交回填到 0.144 發布線，讓下一個非 alpha 的 0.144.x 修補版能取得相同設定。作者列出的驗證方式為 just test -p codex-models-manager（40 項測試通過）與 jq empty 格式檢查。
影響範圍：僅限特定模型與發布線
同一份 diff 中 gpt-5.5、gpt-5.4 等其他模型的情境窗口未受影響，例如 gpt-5.4 仍維持 context_window 272000、max_context_window 1000000 不變。外部討論猜測此舉與成本或穩定性有關，但這一點並未在 PR 內容中獲得證實，實際影響需待 0.144.x 正式釋出後才能觀察。
阿里巴巴預告 Qwen3.8：2.4 兆參數多模態模型，開源權重「即將」釋出
Alibaba Qwen（官方 X 帳號）· 2026-07-19
Alibaba 官方 Qwen 帳號於 2026-07-19 在 X 宣布新一代模型 Qwen3.8，稱總參數達 2.4 兆，是團隊首個參數超過一兆的多模態模型。目前僅 Qwen3.8-Max-Preview 可透過官方管道呼叫，完整開源權重尚未釋出。
核心規格：多模態能力與搶先預覽
根據官方公告與開發者 Shuai Bai 在 X 上的說明，Qwen3.8 可處理圖片、影片與文件輸入，主打程式撰寫、代理式工作流與長時程協作任務。目前沒有任何第三方或官方基準測試數字公開，官方僅表示效能「僅次於 Fable 5」，但此說法目前只來自 Alibaba 自身評測，尚無公開測試集分數可供查證；情境窗口長度與授權條款也均未公布。
影響範圍：預覽先行，開源時程未定
Qwen3.8-Max-Preview 已可透過 Alibaba 的 Token Plan、Qoder 與 QoderWork 呼叫，且以標準價格一折計費。正式開源權重的釋出時間官方僅表示「即將」，未提供明確日期，在完整模型卡或 Hugging Face／GitHub 釋出前，實際架構與性能細節仍無法獨立驗證。