Phòng nghiên cứu của Mira Murati phát hành mô hình ngôn ngữ 975 tỷ tham số miễn phí
Inkling kích hoạt 41 tỷ trong số 975 tỷ tham số cho mỗi token, được huấn luyện trên 45 nghìn tỷ token đa phương thức, lưu trữ miễn phí trên Hugging Face.
- Tổng số tham số: 975 tỷ, chỉ 41 tỷ kích hoạt cho mỗi token trong thiết kế chuyên gia hỗn hợp này.
- Được huấn luyện trước trên 45 nghìn tỷ token văn bản, hình ảnh, âm thanh và video, ngữ cảnh lên tới 1 triệu token.
- Chính phòng nghiên cứu thừa nhận: Inkling không phải là mô hình mạnh nhất hiện nay, dù là mã nguồn mở hay đóng.
Vì sao quan trọng: Cung cấp miễn phí trọng số của một mô hình mà chính người tạo ra nó thừa nhận không phải là tốt nhất vẫn giúp thu hút người dùng, dữ liệu và sự quan tâm.
Thinking Machines Lab, "Inkling: Our Open-Weights Model" ↗ · 15 thg 7, 202615/7/26 · ✓ Xác minh✓