Ternary Bonsai 2 27B: Endlich lokale KI für KMU
PrismML hat Ternary Bonsai 2 27B veröffentlicht: ein 27B-Modell, das mit rund 6 GB auf die Platte kommt und auf Hardware mit 8 GB VRAM läuft – bei Qualität im Bereich der großen Cloud-Modelle.
KMU, IT-Verantwortliche, alle, die lokale KI ohne Cloud-Abhängigkeit wollen
PC/Laptop mit ca. 8 GB VRAM (oder genug Unified Memory)
Heute ist ein KI-Modell rausgekommen, das wie für KMU gemacht ist.
Ternary Bonsai 2 27B braucht nur rund 8 GB VRAM – und ist dabei so leistungsstark wie die großen Cloud-Modelle, mit denen man sonst arbeitet: GPT‑5.6 Sol High, Opus 4.6 Max, Gemini 3.1 Pro.
Das reicht dicke für E-Mails, Dokumentenerstellung, Auswertungen und was sonst so im Alltag anliegt.
(Ja, die Namen sind furchtbar. Ändert aber nichts daran, wie gut das Modell ist.)
Warum das für KMU zählt
Bisher war die Wahl oft dieselbe:
- starke Cloud-KI – und Daten wandern nach draußen
- oder lokale Modelle – und die Hardware-Rechnung wird unangenehm
Bonsai 2 bricht genau diesen Kompromiss. PrismML hat aus einem 27B-Basismodell (Qwen3.8-27B) eine ternäre Variante gemacht, die statt ~54 GB FP16 nur noch ~5,9 GB wiegt – bei laut Hersteller rund 98 % der Originalqualität.
Kurz: Frontier-Niveau auf einer Grafikkarte, die in einem normalen Büro-PC stecken kann.
Kostenlos. Offline. DSGVO-freundlich.
- Kostenlos – für jedermann zum Download (Apache 2.0)
- Offline – läuft lokal, ohne API-Abo und ohne Internet-Zwang
- Tendenziell DSGVO-konform – weil Kundendaten, Verträge und interne Mails das Haus nicht verlassen müssen
Genau das ist der Punkt, den viele Mittelständler seit zwei Jahren hören wollen: KI ja – aber unter eigener Kontrolle.
Wir rollen es aus
Wir rollen Ternary Bonsai 2 27B dieses Wochenende bei den ersten Kunden aus.
Nicht als Spielerei. Als Arbeitsgerät für den Alltag: Formulieren, Zusammenfassen, Auswerten, Entwürfe schreiben – lokal, schnell genug, stark genug.
Wer jetzt noch keine lokale KI betreibt, dem kann ich auch nicht mehr helfen.