मीरा मुराती की लैब ने 975 अरब पैरामीटर वाला मुफ़्त लैंग्वेज मॉडल जारी किया
इंकलिंग हर टोकन पर 975 अरब में से 41 अरब पैरामीटर सक्रिय करता है, इसे 45 ट्रिलियन मल्टीमॉडल टोकन पर ट्रेन किया गया है और यह हगिंग फेस पर मुफ़्त उपलब्ध है।
- कुल पैरामीटर: 975 अरब, इस मिक्सचर ऑफ एक्सपर्ट्स डिज़ाइन में प्रति टोकन केवल 41 अरब सक्रिय होते हैं।
- टेक्स्ट, इमेज, ऑडियो और वीडियो के 45 ट्रिलियन टोकन पर प्री-ट्रेन किया गया, कॉन्टेक्स्ट 1 मिलियन टोकन तक पहुंचता है।
- लैब के अपने शब्द: इंकलिंग आज उपलब्ध सबसे शक्तिशाली मॉडल नहीं है, चाहे वह ओपन हो या क्लोज्ड।
क्यों मायने रखता है: एक ऐसे मॉडल के वज़न को मुफ़्त में देना जिसे उसका निर्माता खुद सबसे बेहतरीन नहीं मानता, फिर भी यूज़र्स, डेटा और माइंडशेयर हासिल करता है।
Thinking Machines Lab, "Inkling: Our Open-Weights Model" ↗ · 15 जुल॰ 202615/7/26 · ✓ सत्यापित✓