PrismML comprimeert Qwen3.6 27B tot een model voor smartphones
Bonsai 27B draait native op Apple-apparaten en Nvidia-GPU's via MLX en CUDA, in twee gekwantiseerde formaten.
- PrismML noemt Bonsai 27B het eerste model in zijn klasse dat op een telefoon kan draaien.
- De ternaire versie vereist 5,9 gigabyte en behoudt 95 procent van de benchmarkscore van Qwen3.6 27B.
- PrismML, opgericht door onderzoekers van Caltech, wordt gesteund door Khosla Ventures, Cerberus, Google en Samsung.
Waarom dit ertoe doet: De bewering van een bedrijf dat het de eerste in zijn klasse is, is reclame, nog geen geverifieerd feit.