Jev: Ein Modell, das keinen Text schreibt
Jev von TypeSafe: System-One-Modell für typisierte Entscheidungen. How-to mit API-Key, typesafe-sdk, curl, LangChain – plus unsere ersten Messungen aus Deutschland.
Tag
#llm
5 Artikel
Ein möglicher neuer Ansatz: Von der Absicht direkt zur Ausführung
{excerpt}
Wieviel RAM braucht ein lokales KI-System?
Quelle: LinkedIn-Post von Micha Gross „Wieviel RAM braucht ein lokales KI-System?“ (31.03.2026) 1. Erst unterscheiden: VRAM vs. RAM VRAM (Grafikkarte) bestimmt, welche Modellgröße du in voller Geschwindigkeit fahren kann …
Lokale LLMs: Notizen vom Meetup mit Stepan Rutz
Auf LinkedIn schrieb @ddppham über sein Treffen mit Stepan Rutz („Gestern mit Stepan Rutz über lokale LLMs gesprochen…“). Hier ein kurzes Write-up, ergänzt um Links & Ressourcen, damit du die Themen aus dem Gespräch …
AirLLM: 70B-Modelle auf 4 GB VRAM
Der Hype um neue Frontier-Modelle hat eine hässliche Kehrseite: Hardwarepreise und Cloud-Bills explodieren. AirLLM tritt genau dazwischen – ein Apache-2.0-Projekt, das „nur“ durch cleveres Laden der Modellschichten plötz …