Hugging Face 詳細說明實際運行 Inkling 所需的硬體配置
Thinking Machines 擁有 9750 億參數的 Inkling 模型現已在首發當天支援五種框架，其中包括同日發布的 Transformers 更新。
- 完整的 BF16 檢查點需要 2 TB 記憶體，而 NVFP4 版本則需要 600 GB。
- Unsloth 的 1 位 GGUF 建置版本將本機機器的記憶體需求降低了 95%。
- Hugging Face 在產品發布後的前兩個小時內，透過其 Inference Providers 提供了免費的推論服務。
為什麼重要: 取得免費模型的機會實際上被運行它所需的 2 TB 記憶體給限制了。
Hugging Face blog (Thinking Machines) — "Welcome Inkling by Thinking Machines" ↗ · 2026年7月15日26/7/15 · 已更新 7月15日