شرکت Thinking Machines مدل 975 میلیارد پارامتری خود را منتشر کرد و به عقب ماندن از رقبا اعتراف کرد
مدل Inkling برای هر توکن 41 میلیارد از 975 میلیارد پارامتر خود را فعال میکند و روی 45 تریلیون توکن متنی، تصویری، صوتی و ویدیویی آموزش دیده است.
- آموزشهای ثانویه بر پایه یادگیری تقویتی ناهمگام در مقیاس وسیع و با بیش از 30 میلیون اجرای آزمایشی انجام شد.
- وزنهای کامل این مدل بهطور رایگان در Hugging Face در دسترس است و تنظیم دقیق آن در Tinker با 50 درصد تخفیف ارائه میشود.
- نسخه کوچکتر به نام Inkling-Small در مجموع 276 میلیارد پارامتر دارد که 12 میلیارد آن فعال است.
چرا مهم است: ارائه رایگان یک مدل 975 میلیارد پارامتری هزینه کمتری نسبت به از دست دادن کنترل بر سازنده مدل بعدی دارد.
Thinking Machines Lab — Inkling launch post ↗ · ۲۴ تیر ۱۴۰۵۰۵/۴/۲۴ · ✓ بررسیشده✓