Cloudflare 用 5 個 Rust 記憶體佈局技巧,把 1.1.1.1 的 DNS 快取瘦身 56%
Cloudflare Blog · 2026-08-27
原本的問題
Cloudflare 內部代號 Big Pineapple 的 DNS 解析器撐起 1.1.1.1 服務,快取內存放超過 2500 億筆記錄。在這個規模下,每筆記錄多浪費 1 byte,整個機隊就要多付出 250GB 記憶體,團隊因此回頭檢視 Rust 資料結構的記憶體佈局,找出可壓縮的空間。
採用的方法
團隊針對快取的 key 與 entry 結構做了五項調整,核心精神是把「可成長」的容器換成「剛好大小」的不可變版本:
- 用
Box<[T]>、Box<str>取代Vec、String,省下容量欄位與預留成長空間,單筆省64bytes - 合併 answer / authority / additional 三份列表,改用
u16offset 取代各自的指標與長度欄位,單筆省28bytes - owner name 改存
Option<Box<Name>>,與查詢網域相同時存None,讀取時再推回去,只有 CNAME 這類特例才真的配置記憶體 RecordDataenum 把Txt、Naptr等大型變體改成Box包裹,避免 4 byte 的A變體被 padding 撐到144bytes 去對齊最大的 NAPTR 變體- record data 直接存成帶 2-byte 長度前綴的 wire format 位元組陣列,插入時序列化一次寫入共用暫存 buffer,省去逐變體的 enum overhead
pub enum RecordData {
A(Ipv4Addr), // inline
Aaaa(Ipv6Addr), // inline
Txt(Box<Txt>), // boxed
Naptr(Box<Naptr>), // boxed
}實際效果
單筆快取記錄從 953 bytes 降到 420 bytes,降幅 56%;插入吞吐量由每秒 625,000 筆升到 893,000 筆,查詢延遲由 828 ns 降到 670 ns。全機隊估計因此省下約 100 TB 記憶體,單機 p99 常駐記憶體由 9.3GB 降到 5.3GB。
| 指標 | 之前 | 之後 |
|---|---|---|
| 單筆記憶體 | 953 bytes | 420 bytes |
| 插入吞吐量 | 625,000/s | 893,000/s |
| 查詢延遲 | 828 ns | 670 ns |
原始來源:Cloudflare Blog
Uno Platform 打造 C# 版 MCP Server,讓 AI agent 邊寫 .NET UI 邊自我驗證
Microsoft DevBlogs · 2026-08-27
要解決的問題
跨平台 .NET UI 框架 Uno Platform 在其 Studio 3.0 產品開發過程中發現:AI 能比任何人類團隊更快寫出 UI 程式碼,卻無法自己判斷寫得對不對。網頁開發者有 Playwright 可即時驗證畫面,原生 .NET 應用過去缺乏同等的測試透明度,agent 只能盲寫。
依生命週期拆成兩套 MCP Server
團隊用官方 MCP C# SDK 打造了依「生命週期」而非依功能分工的兩套 Model Context Protocol server:
- Docs Server(HTTP、無狀態,
https://mcp.platform.uno/v1):提供uno_platform_docs_search、uno_platform_docs_fetch做文件檢索,另有uno_platform_agent_rules_init初始化工作流程,約耗用6.4ktokens - App Server(.NET 工具、走 stdio、有狀態,每個 session 各一份):以
uno_app_start啟動應用(含 Hot Reload)、用uno_app_get_screenshot與uno_app_visualtree_snapshot做視覺檢查、可模擬點擊與鍵盤輸入,並有uno_health健康檢查,約耗用1.5ktokens
整套流程由 Microsoft Agent Framework 負責協調 agent 的規劃與執行,產生的程式碼再用 Roslyn 在瀏覽器內即時編譯。Uno 共同維護的 2D 繪圖引擎 SkiaSharp 也同步推出 SkiaSharp 4.0,是這次 Studio 3.0 的重要更新之一。
可重複使用的 Skills Library
常用流程(MVUX 狀態管理、導覽、主題、測試)被封裝成可重複使用的 Skills Library,放在 GitHub 的 unoplatform/studio/tree/main/skills,讓 agent 在不同 session 間維持一致行為。文章強調的設計原則是:「工具描述本身就是 prompt,不是文件」,因為模型只會挑自己看得懂、覺得相關的工具使用。
原始來源:Microsoft DevBlogs
傳 Nvidia 將以 129 億美元收購 Hugging Face,雙方均未證實
TechCrunch(引述 The Information)· 2026-08-26 · 傳聞未經證實
目前已知的資訊
財經媒體 The Information 於 2026-08-26 晚間率先報導,Nvidia 已同意收購開源 AI 模型平台 Hugging Face,TechCrunch、CNBC、Fortune、Forbes 等隨後跟進。多篇報導引述的交易金額約為 $12.9B(逾 $13B),較 Hugging Face 2023 年最後一輪募資時的 $4.5B 估值大幅跳升。Nvidia 與 Hugging Face 均未回應媒體的置評請求。
協議尚未簽署,交易仍可能生變
TechCrunch 特別指出,Nvidia 過去只要認為報導失實通常會迅速出面澄清,這次反常地保持沉默。包括 Business Insider 在內的報導都強調,雙方談判雖已接近尾聲,但截至目前尚未產生簽署後的正式協議,交易仍可能生變。報導並提到 Hugging Face 曾在 2025 年底婉拒 Nvidia 一筆 $500M、估值 $7B 的投資提案。Hugging Face 是開發者分享與下載開源 AI 模型的平台,若收購成真,將把 Nvidia 的版圖從晶片延伸進軟體與模型生態系。
原始來源:TechCrunch(尚無 Nvidia / Hugging Face 官方聲明)