شرکت Thinking Machines مدل 975 میلیارد پارامتری را باز کرد، اما به عقب ماندن از رقبا اعتراف کرد
مدل Inkling از 975 میلیارد پارامتر خود، 41 میلیارد را به ازای هر توکن فعال می کند و روی 45 تریلیون توکن متن، تصویر، صدا و ویدیو آموزش دیده است.
- پس از آموزش، بر یادگیری تقویتی ناهمگام در مقیاس بزرگ در بیش از 30 میلیون اجرا تکیه شد.
- وزن های کامل به صورت رایگان در Hugging Face در دسترس هستند و تنظیم دقیق در Tinker با 50 درصد تخفیف انجام می شود.
- نسخه کوچکتر به نام Inkling-Small در مجموع 276 میلیارد پارامتر دارد که 12 میلیارد آن فعال است.
چرا مهم است: واگذاری رایگان یک مدل 975 میلیارد پارامتری هزینه کمتری نسبت به از دست دادن کنترل بر سازنده مدل بعدی دارد.
Thinking Machines Lab — Inkling launch post ↗ · ۲۴ تیر ۱۴۰۵۰۵/۴/۲۴ · ✓ بررسیشده✓