Hugging Face detalla lo que realmente exige ejecutar Inkling
Inkling, el modelo de 975.000 millones de parámetros de Thinking Machines, ya corre en cinco plataformas desde el primer día, incluida una actualización de Transformers lanzada esa misma jornada.
- El checkpoint completo en BF16 necesita 2 terabytes de memoria, mientras que la versión NVFP4 exige 600 gigabytes.
- La compilación GGUF de 1 bit de Unsloth recorta ese requisito de memoria en un 95 por ciento para máquinas locales.
- Hugging Face ofreció inferencia gratuita a través de sus Inference Providers durante las dos primeras horas tras el lanzamiento.
Por qué importa: El acceso a un modelo gratuito queda racionado por los dos terabytes de memoria que exige para funcionar.
Hugging Face blog (Thinking Machines) — "Welcome Inkling by Thinking Machines" ↗ · 15 jul 202615/7/26 · Actualizado 15 jul