Laboratorium Mira Murati Merilis Model Bahasa Gratis 975 Miliar Parameter
Inkling mengaktifkan 41 miliar dari 975 miliar parameter per token, dilatih dengan 45 triliun token multimodal, dan tersedia gratis di Hugging Face.
- Total parameter: 975 miliar, namun hanya 41 miliar yang aktif per token dalam desain mixture of experts ini.
- Dilatih awal dengan 45 triliun token teks, gambar, audio dan video, serta konteksnya mencapai 1 juta token.
- Pernyataan pihak laboratorium sendiri: Inkling bukanlah model terkuat yang tersedia saat ini, baik yang terbuka maupun tertutup.
Mengapa ini penting: Membagikan bobot gratis untuk model yang diakui pembuatnya bukan yang terbaik tetap berfungsi untuk meraih pengguna, data, dan perhatian publik.
Thinking Machines Lab, "Inkling: Our Open-Weights Model" ↗ · 15 Jul 202615/7/26 · ✓ Terverifikasi✓