Local-first bedeutet nicht nur lokal

Diese Seite diskutiert keine abstrakte souveräne KI, sondern setzt sie um. Es lohnt sich, genau zu zeigen, wie dies funktioniert, da „local-first" häufig fälschlicherweise als „nutzen Sie niemals die Cloud" missverstanden wird, was nicht die Position darstellt.

Die tatsächliche Hierarchie

Die Produktion läuft heute mit drei Modellen in Prioritätsreihenfolge: ein primäres 27B-Modell auf der Haupt-GPU, ein sekundäres 8B-Modell, das stets auf der zweiten GPU aktiv ist, und ein kleines Backup-Modell auf der CPU für den Fall, dass keine GPU verfügbar ist. Jedes Level hat eine klare Rolle: Das primäre Modell bearbeitet die meisten Reasoning-Aufgaben, das sekundäre deckt Lastspitzen oder einfachere Aufgaben ab, und das CPU-Modell stellt sicher, dass das System nie vollständig ausfällt.

Die Cloud existiert in dieser Architektur, aber wie explizitereserver Fallback, nicht als stilles Standardverhalten. Das ist entscheidend: Ein System, das Ihre Daten „manchmal" ohne Ihr Wissen an eine externe API sendet, ist nicht souverän, auch wenn ein lokales Modell installiert ist. Der Unterschied besteht nicht im eigenen Hardware-Besitz, sondern darin, dass der Standardpfad lokal sein muss und Ausnahmen dokumentiert und sichtbar sein müssen.

Warum der Unterschied wichtig ist

Lokale Modelle lokal auszuführen ist keine ideologische Haltung ohne Kosten – sie bietet konkrete, messbare Vorteile: eine amortisierte Hardware-Kostenstruktur mit nahezu null Grenzkosten, keine durch externe Anbieter auferlegten Rate-Limits und volle Kontrolle über Zeitpunkt und Methode der Modellaktualisierung. Es bestehen jedoch reale Kosten: Infrastrukturbetrieb, Einarbeitungszeit und eine Kapazitätsgrenze gegenüber kommerziellen Frontier-Modellen.

Die ehrliche Schlussfolgerung

Local-first bedeutet, dass die Daten standardmäßig in Ihrer Infrastruktur verbleiben und nur dann ausgegeben werden, wenn Sie dies explizit entscheiden – nicht aufgrund eines unbeobachteten Standards. Dies ist das Kriterium, mit dem diese Website jede bewertete Werkzeug bewertet, beginnend mit dem eigenen.