Thinking Machines Mở Mô Hình 975 Tỷ Tham Số, Thừa Nhận Tụt Hậu So Với Đối Thủ
Inkling kích hoạt 41 tỷ trong số 975 tỷ tham số cho mỗi token, được huấn luyện bằng 45 nghìn tỷ token văn bản, hình ảnh, âm thanh và video.
- Hậu huấn luyện dựa vào học tăng cường không đồng bộ quy mô lớn trên hơn 30 triệu lần triển khai.
- Trọng số đầy đủ được miễn phí trên Hugging Face, tinh chỉnh trên Tinker được giảm giá 50%.
- Phiên bản nhỏ hơn, Inkling-Small, có tổng cộng 276 tỷ tham số với 12 tỷ tham số hoạt động.
Vì sao quan trọng: Cho không một mô hình 975 tỷ tham số còn rẻ hơn là mất quyền kiểm soát ai sẽ huấn luyện mô hình tiếp theo.
Thinking Machines Lab — Inkling launch post ↗ · 15 thg 7, 202615/7/26 · ✓ Xác minh✓