Il laboratorio di Mira Murati pubblica un modello linguistico gratuito da 975 miliardi di parametri
Inkling attiva 41 miliardi di parametri su 975 miliardi per token, è addestrato su 45 trilioni di token multimodali ed è ospitato gratuitamente su Hugging Face.
- Parametri totali: 975 miliardi, ma solo 41 miliardi si attivano per token in questo design mixture of experts.
- Preaddestrato su 45 trilioni di token di testo, immagini, audio e video, il contesto arriva a 1 milione di token.
- Le parole stesse del laboratorio: Inkling non è il modello più potente disponibile oggi, né aperto né chiuso.
Perché conta: Offrire pesi gratuiti per un modello che lo stesso creatore ammette non essere il migliore serve comunque a comprare utenti, dati e spazio mentale.
Thinking Machines Lab, "Inkling: Our Open-Weights Model" ↗ · 15 lug 202615/07/26