Zum Inhalt springen
Deniz Bartl
← Alle Projekte

KI-Arbeitsplatz

Ein selbst gehosteter Arbeitsbereich für KI-Werkzeuge auf der eigenen Grafikkarte — bewusst nicht im Homelab, weil Rechenlast dorthin gehört, wo die Leistung ist.

Status
im Betrieb
Art
fremde Software, selbst betrieben
Seit
2026
Technik
Windows · Python · lokale Modelle · GPU

Warum nicht im Homelab

Der Virtualisierungsrechner im Homelab ist sparsam und leise — beides verliert man bei KI-Rechenlast sofort. Er hat keine passende Grafikkarte, und der Arbeitsspeicher ist ohnehin knapp: von 24 GB sind die meisten an laufende Container vergeben.

Also läuft dieser Teil dort, wo die Leistung steht: auf dem Arbeitsrechner mit Grafikkarte, direkt statt in einem Container. Eine Trennung nach Zweck statt nach Gewohnheit — nicht alles, was selbst gehostet ist, muss auf dieselbe Maschine.

Was dabei schiefging

Die Hürden lagen nicht bei den Modellen, sondern bei der Umgebung: mehrere Python-Installationen nebeneinander, dazu eine Verknüpfung des Betriebssystems, die sich als Python ausgibt und stattdessen den App-Store öffnet. Wer nicht prüft, welche Version gerade tatsächlich läuft, sucht fehlende Bausteine in einer Umgebung, in der sie nie installiert wurden.

Solche Funde schreibe ich auf, sobald sie auftreten. Beim zweiten Mal kostet dieselbe Falle sonst genauso viel Zeit wie beim ersten.