OpenAI 前技術長 Mira Murati 創辦的 AI 新創 Thinking Machines Lab,美國時間 11 月 20 日開源新模型 Inkling 2 Mini。這個模型只要約 20GB 記憶體,消費級筆電就能離線執行,研究員在飛機上開飛航模式,用一台 MacBook Pro 讓它幾分鐘寫出一個能玩的飛行模擬器。
根據 Thinking Machines 官方發表文,Inkling 2 Mini 在總參數 1,000 億以下的開源權重模型中,寫程式測試 DeepSWE v1.1 拿下 48.2%、綜合測試 Vals Index v2.2 拿下 46.5%,兩項都是同級第一。
總參數 264 億、每次只動 34 億,記憶體約 20GB
開源權重指的是公司公開模型的參數檔,任何人都能下載到自己的電腦執行或修改。依 Hugging Face 模型頁,Inkling 2 Mini 採 Apache 2.0 授權,可以商用。
它是「混合專家」架構:模型裡有很多組各有專長的子網路,每次只叫用其中幾組。Inkling 2 Mini 總參數 264 億,每個字實際用到的只有 34 億。
模型大部分權重從訓練到部署都用 4 位元的 NVFP4 格式,最後 4 層用 8 位元的 MXFP8,部署時不必再壓縮轉換,所以不會因此掉分。官方說,上市時就支援 32GB 記憶體以上的 Mac 透過 Ollama 執行,輝達的 DGX Spark 桌上型 AI 電腦也能跑。
中間層每個字跑三遍的「迴圈」設計
Inkling 2 Mini 最特別的是迴圈架構。模型共 24 層、分成 4 段,每處理一個字,頭尾兩段各跑一次,中間兩段重複跑三次,等於用 24 層的參數做了 48 層的運算。
官方的說法是,中間層負責比較抽象的推理,多跑幾遍能讓模型想得更深,用更少的字就得出正確答案,對需要推理品質的 AI 代理寫程式任務特別有幫助。官方實驗中,迴圈放在中間 12 層,28 項評測裡有 27 項比放在最後 12 層進步更多。
代價是運算量。官方拿同規模的無迴圈版本比較,無迴圈版訓練成本少 7.5%,但要達到同樣表現,推論時得多花 140% 的運算。
寫程式領先,背知識沒有變強
官方拿 Gemma 4 31B、Qwen3.8-27B 等同級開源模型比較。DeepSWE v1.1 這項寫程式測試,Inkling 2 Mini 拿 48.2%,Qwen3.8-27B 是 42.2%;Hugging Face 部落格整理,跟這 4 個模型比,48 項測試裡它有 32 項領先。
迴圈能加強推理,但不會讓模型記住更多知識,事實類問答的分數跟同大小的模型差不多。官方說,Inkling 2 Mini 改用搜尋和工具補足,在 BrowseComp 等需要上網查資料的測試中表現領先。
官方也列出弱點:多輪對話與條件很多的指令,分數落後 Qwen3.8-27B;在 HLE-Diamond 等高難度推理測試,也比不上更大的模型。
想得更多卻不寫出來,會不會更難監督
現在監督 AI 的主要方法之一,是讀模型寫出來的推理過程(思維鏈)。迴圈讓模型能在內部多算幾步再開口,外界擔心有些推理可能根本不會寫出來,監督就更難。
Thinking Machines 為此另外開源一個可調迴圈次數的研究版模型。測試顯示,在不寫推理、直接作答的情況下,模型能完成的任務長度從跑一遍時相當於人類 16 秒的工作,增加到跑三遍的 37 秒,再往上就大致持平。
跑五遍時,模型的推理文字平均 1,661 個字詞(token),不到跑一遍時 3,703 個的一半,但句子長度與英文字典用字比例都沒變,仍然讀得懂。在模擬惡意任務的 LinuxArena 測試裡,偷偷完成惡意任務而不被抓到的比例也沒有隨迴圈次數出現明顯趨勢。
官方強調這只是初步結果,研究版模型的強化學習只用三遍迴圈訓練,更大規模、迴圈更多的模型可能會更會壓縮推理。這也是他們開源的原因之一,希望研究社群一起研究迴圈模型的可監督性。
Inkling 2 Mini 已在 Thinking Machines 的微調平台 Tinker 上線,可以推論和客製化,完整權重放在 Hugging Face,SGLang、vLLM、Ollama 等常見開源工具也都支援。
這篇文章 OpenAI 前技術長新創開源小模型:筆電離線跑,飛機上寫出飛行模擬器 最早出現於 鏈新聞 ABMedia。




