آزمایشگاه میرا موراتی یک مدل زبانی رایگان با ۹۷۵ میلیارد پارامتر منتشر کرد
مدل Inkling به ازای هر توکن ۴۱ میلیارد از ۹۷۵ میلیارد پارامتر را فعال می کند، روی ۴۵ تریلیون توکن چندرسانه ای آموزش دیده و به رایگان در Hugging Face میزبان شده است.
- کل پارامترها: ۹۷۵ میلیارد، اما تنها ۴۱ میلیارد پارامتر به ازای هر توکن در این طراحی ترکیب خبرگان فعال می شود.
- پیش آموزش یافته روی ۴۵ تریلیون توکن متنی، تصویری، صوتی و ویدیویی، با پنجره زمینه ای تا ۱ میلیون توکن.
- به گفته خود آزمایشگاه: Inkling قوی ترین مدل موجود امروز نیست، چه در میان مدل های باز و چه بسته.
چرا مهم است: انتشار رایگان وزن های مدلی که سازنده اش اعتراف می کند بهترین نیست، همچنان باعث جذب کاربر، داده و تسلط بر افکار عمومی می شود.
Thinking Machines Lab, "Inkling: Our Open-Weights Model" ↗ · ۲۴ تیر ۱۴۰۵۰۵/۴/۲۴ · ✓ بررسیشده✓