Thinking Machines udostępnia model z 975 miliardami parametrów i przyznaje, że odstaje od rywali
Inkling aktywuje 41 miliardów z 975 miliardów swoich parametrów na token i został wytrenowany na 45 bilionach tokenów tekstu, obrazu, dźwięku i wideo.
- Trening końcowy opierał się na asynchronicznym uczeniu ze wzmocnieniem na dużą skalę w ponad 30 milionach rolloutów.
- Pełne wagi są dostępne za darmo na platformie Hugging Face, a dostrajanie można przeprowadzić na platformie Tinker z 50% zniżką.
- Mniejsza wersja, Inkling-Small, ma łącznie 276 miliardów parametrów, z czego 12 miliardów jest aktywnych.
Dlaczego to ważne: Rozdanie za darmo modelu z 975 miliardami parametrów kosztuje mniej niż utrata kontroli nad tym, kto trenuje następny.
Thinking Machines Lab — Inkling launch post ↗ · 15 lip 202615.07.26 · ✓ Sprawdzone✓