Hugging Face объясняет, что реально нужно для запуска Inkling
Модель Inkling на 975 миллиардов параметров от Thinking Machines с первого дня работает в пяти фреймворках, включая обновление Transformers, выпущенное в тот же день.
- Полный чекпойнт BF16 требует 2 терабайта памяти, версия NVFP4 требует 600 гигабайт.
- Однобитная сборка GGUF от Unsloth снижает это требование к памяти на 95 процентов для локальных машин.
- Hugging Face предложила бесплатный инференс через своих Inference Providers в течение первых двух часов после запуска.
Почему это важно: Доступ к бесплатной модели ограничивается двумя терабайтами памяти, необходимыми для ее запуска.
Hugging Face blog (Thinking Machines) — "Welcome Inkling by Thinking Machines" ↗ · 15 июл. 2026 г.15.07.26 · Обновлено 15 июл.