PrismML kompresuje model Qwen3.6 27B na smartfony
Bonsai 27B działa natywnie na urządzeniach Apple i układach GPU Nvidia za pośrednictwem MLX i CUDA, w dwóch skwantowanych rozmiarach.
- PrismML twierdzi, że Bonsai 27B to pierwszy w swojej klasie model zdolny do pracy na telefonie.
- Wersja trójkowa wymaga 5,9 GB pamięci i zachowuje 95 procent wyniku w testach modelu Qwen3.6 27B.
- Firma PrismML, założona przez badaczy z Caltech, jest wspierana przez Khosla Ventures, Cerberus, Google i firmę Samsung.
Dlaczego to ważne: Zapewnienia firmy o byciu pierwszą w swojej klasie to na razie reklama, a nie zweryfikowany fakt.
PrismML official announcement ↗ · 14 lip 202614.07.26 · ✓ Sprawdzone✓