PrismML nén Qwen3.6 27B thành mô hình chạy trên điện thoại
Bonsai 27B chạy trực tiếp trên thiết bị Apple và GPU Nvidia thông qua MLX và CUDA với hai kích thước lượng tử hóa.
- PrismML gọi Bonsai 27B là mô hình đầu tiên trong phân khúc có thể chạy trên điện thoại.
- Phiên bản tam phân cần 5,9 gigabyte và giữ được 95 phần trăm điểm chuẩn của Qwen3.6 27B.
- PrismML, do các nhà nghiên cứu Caltech thành lập, được Khosla Ventures, Cerberus, Google và Samsung hậu thuẫn.
Vì sao quan trọng: Tuyên bố là mô hình đầu tiên trong phân khúc của một công ty chỉ là quảng cáo, chưa phải là sự thật được kiểm chứng.
PrismML official announcement ↗ · 14 thg 7, 202614/7/26 · ✓ Xác minh✓