
Bonsai 27B: dit AI-model draait volledig op je telefoon — wat merk jij ervan?
PrismML perst een 27-miljard-parameter AI-model in 3,9 GB, klein genoeg voor een iPhone 17 Pro. Wat dit betekent voor je privacy en je cloud-abonnement.
Tag
3 artikelen

PrismML perst een 27-miljard-parameter AI-model in 3,9 GB, klein genoeg voor een iPhone 17 Pro. Wat dit betekent voor je privacy en je cloud-abonnement.

De afstand tussen open en gesloten AI-modellen is geslonken tot een half jaar. Voor Nederlandse bedrijven verandert dat de rekensom — dit speelt er.

Ollama draait gratis AI-modellen zoals Llama 3.3, Mistral en Qwen lokaal op Mac, Windows of Linux. Wat het is, hoe het werkt, wanneer het zin heeft.