ミラ・ムラティの研究所が9750億パラメータの言語モデルを無料公開
Inklingは9750億パラメータのうちトークンごとに410億をアクティブ化し、45兆のマルチモーダルトークンで学習され、Hugging Faceで無料ホストされている。
- 総パラメータ数: 9750億。このMixture-of-Experts設計ではトークンごとに410億のみがアクティブになる。
- テキスト、画像、音声、動画の45兆トークンで事前学習され、コンテキストは100万トークンに達する。
- 研究所自身の言葉: Inklingはオープンかクローズドかを問わず、今日利用可能な最強のモデルではない。
なぜ重要か: 最高ではないと開発者が認めるモデルの重みを無料で提供することでも、ユーザー、データ、関心を集めることはできる。
Thinking Machines Lab, "Inkling: Our Open-Weights Model" ↗ · 2026年7月15日26/7/15