Thinking Machines lancia un modello da 975 miliardi di parametri, ma ammette il ritardo sui rivali
Inkling attiva 41 miliardi dei suoi 975 miliardi di parametri per token, addestrato su 45 trilioni di token tra testo, immagini, audio e video.
- Il post-addestramento si è basato su un apprendimento per rinforzo asincrono su larga scala per oltre 30 milioni di iterazioni.
- I pesi completi sono gratuiti su Hugging Face, mentre il fine-tuning su Tinker è scontato del 50%.
- Il fratello minore, Inkling-Small, conta 276 miliardi di parametri totali e 12 miliardi attivi.
Perché conta: Regalare un modello da 975 miliardi di parametri costa meno che perdere il controllo su chi addestrerà il prossimo.
Thinking Machines Lab — Inkling launch post ↗ · 15 lug 202615/07/26 · ✓ Verificato✓