Manche sind mit ihrer Cloud-KI rundum zufrieden. Andere merken, dass auch mal etwas schiefgeht und man genau aufpassen muss, was man ihr schreibt.
Beides stimmt. Deshalb geht es hier nicht um Cloud gegen lokal, sondern darum, welcher Vorgang wohin gehört.
Reichen ChatGPT oder Copilot nicht aus?
Für vieles ja. Cloud-KI wie ChatGPT oder Microsoft 365 Copilot ist sofort da, braucht keine eigene Hardware und bekommt laufend neue Modelle. Für einen Text, eine Zusammenfassung oder eine Idee ist das oft die richtige Wahl, solange ein Mensch danebensitzt und das Ergebnis prüft.
Schwierig wird es an drei Stellen:
- Kundendaten, Personaldaten oder Betriebsgeheimnisse sollen in die KI.
- Ein Vorgang soll ohne dich laufen, also ohne dass jemand jedes Ergebnis liest.
- Du willst nicht, dass ein Anbieter Modelle, Regeln und Preise ändert, ohne dich zu fragen.
An diesen Stellen lohnt sich der Blick auf die lokale Variante.
Was heißt „KI lokal betreiben“?
Lokal heißt: Das KI-Modell läuft auf einem Server, der dir zugeordnet ist, statt bei einem KI-Anbieter, den du je Nutzer oder Anfrage bezahlst. Der Server kann in deinem Büro stehen oder im Rechenzentrum.
Das deutlichste Bild dafür: Wird der Server abgeschaltet, ist die KI weg. Genau das ist der Punkt. Was du abschalten kannst, kontrollierst du.
Lokal heißt nicht: nebenbei selbst basteln. Ein KI-Server, der ungeschützt im Netz hängt, ist gefährlicher als jede Cloud. Warum, steht im Beitrag Warum du OpenClaw nicht selbst hosten solltest.
Bei SNKB ist der lokale Betrieb eine Option, keine Pflicht. Auf Wunsch kann die KI auf der Infrastruktur von SNKB laufen statt in einer fremden Cloud. Ob dafür ein eigener Server nötig ist und wer ihn abschalten kann, klärst du vorher. Bevor gebaut wird, weißt du, welcher Teil wo läuft und welche Daten ihn verlassen.
Ist das ein abgeschlossenes System?
So sollte es gebaut sein. Eine lokale KI sollte nur über VPN oder über euer vorhandenes Firmen-Login erreichbar sein, nicht über einen Messenger. Wie eng der Zugang ist, legt ihr vorher fest.
Innen gelten Regeln wie für einen neuen Mitarbeiter. Jeder KI-Agent hat eine Jobbeschreibung: was er darf, was er nicht darf, wo Schluss ist. Die KI, mit der du sprichst, hat selbst keine Rechte an deinen Systemen. Sie übergibt an eine Rolle, die diese Rechte hat. Ein falscher Satz im Chat löscht damit keine Daten.
Welche KI-Modelle laufen lokal, und woher kommen sie?
Lokal laufen offene Modelle (Open Weight). Der Hersteller veröffentlicht die Modelldatei, und jeder kann sie herunterladen, testen und auf eigener Hardware betreiben. Es gibt sie von mehreren Herstellern, auch aus Europa, etwa von Mistral AI aus Frankreich.
Ein offenes Modell braucht keine Verbindung zum Hersteller, um zu antworten. Was du eingibst, bleibt auf deinem Server. Welches Modell passt, zeigt der Test an deinen echten Fällen. Die Herkunft ist dabei ein Kriterium, das du mitbestimmst.
Kann ich den Ergebnissen trauen?
Am Anfang nicht blind, und das muss auch niemand. Sinnvoll ist zu Beginn das Vier-Augen-Prinzip: Die KI erstellt, ein Mensch prüft jedes Ergebnis. Erst wenn du den Ergebnissen vertraust, läuft mehr ohne Freigabe.
Fehlerfrei ist auch ein Mensch nicht. Die Frage ist nicht, ob die KI nie danebenliegt, sondern ob der Vorgang mit Prüfung schneller und besser wird als ohne KI.
Ist lokale KI billiger als die Cloud?
Nicht automatisch, und oft ist sie teurer. Das sage ich vorher, nicht hinterher. Bei einem Cloud-Abo teilst du die Rechenleistung mit vielen anderen Nutzern. Ein Server für lokale KI braucht leistungsfähige Hardware, die du allein bezahlst.
Kaufen musst du sie nicht unbedingt. Solche Hardware lässt sich auch im Rechenzentrum mieten. Ob Kauf oder Miete besser passt, hängt am Vorgang.
Die bessere Frage ist deshalb nicht, was die KI kostet, sondern was der Vorgang heute kostet. Ein Standarddokument von Hand kann Tage kosten. Und wer wachsen will, ohne gleich neue Leute einzustellen, braucht genau diese Zeit zurück. Wächst ein Vorgang mit, ohne dass du dafür neue Leute brauchst, rechnet sich die Hardware anders als ein Abo.
Cloud-KI oder lokale KI im Vergleich
| Frage | Cloud-KI | Lokal betriebene KI |
|---|---|---|
| Start | sofort, mit Konto und Abo | nach Einrichtung eines Servers |
| Wo deine Eingaben verarbeitet werden | beim Anbieter, Standort je nach Anbieter und Vertrag | auf deinem Server, an einem Standort, den du kennst |
| Wer abschalten kann | der Anbieter | du |
| Modelle | die des Anbieters, gewechselt nach seinem Zeitplan | offene Modelle (Open Weight), gewechselt nach deinem |
| Zugang | Browser oder App, von überall | so eng, wie ihr es festlegt, etwa nur über VPN oder euer Firmen-Login |
| Kosten | niedriger Einstieg, je Nutzer oder Anfrage | Hardware und Betrieb, oft teurer |
| Passt für | Texte, Ideen, Zusammenfassungen mit einem Menschen daneben | Vorgänge mit sensiblen Daten, die ohne dich laufen sollen |
Wie fange ich klein an?
Mit einem Vorgang, nicht mit einer Plattform. Am besten mit dem, der am meisten weh tut, und nicht mit dem, der sich am besten vorführen lässt: Berichte, die jeden Monat gleich aufgebaut sind, Standarddokumente aus Textbausteinen, Angebote oder das Vorsortieren eingehender Anfragen.
- Zeig den Vorgang. Zum Beispiel mit einem kurzen Bildschirmvideo: so ist es jetzt, so hätte ich es gern.
- Vergleich an echten Fällen. Eine Handvoll Beispiele, vorher und nachher, keine Wunschliste.
- Prüf am Anfang jedes Ergebnis. Ein Mensch liest, was die KI erstellt, bis du ihr vertraust.
- Rechne mit echten Zahlen. Was kostet der Vorgang heute, was mit KI? Danach entscheidest du, ob es weitergeht.
Abgerechnet wird bei SNKB je Prozess: Analyse, Umsetzung und Einführung laufen als Festumfang. Trägt der Prozess nicht, hast du einen Prozess bezahlt. Läuft die KI auf der Infrastruktur von SNKB, kommt der Betrieb als eigener Vertrag dazu. Ohne saubere Daten fange ich gar nicht erst an. Den Grund erklärt der Beitrag Warum ich Projekte ohne saubere Daten ablehne.
Was SNKB sonst automatisiert, steht auf der Seite KI-Automatisierung. Wo der Server dafür am besten steht, beantwortet der Beitrag Eigener Server im Büro oder im Rechenzentrum? Ob dein Vorhaben über BAFA oder KfW förderfähig ist, klären wir beide im Erstgespräch.
Häufige Fragen
Was heißt es, KI lokal zu betreiben?
Das KI-Modell läuft auf einem Server, den du kontrollierst, im Büro oder im Rechenzentrum, statt bei einem KI-Anbieter. Wird der Server abgeschaltet, ist die KI weg.
Ist lokale KI günstiger als ChatGPT oder Copilot?
Nicht automatisch, oft ist sie teurer, weil du die Rechenleistung allein bezahlst. Sie lohnt sich, wenn sensible Daten im Spiel sind oder ein Vorgang ohne dich laufen soll.
Welche KI-Modelle lassen sich lokal betreiben?
Offene Modelle (Open Weight), deren Modelldateien der Hersteller veröffentlicht. Es gibt sie von mehreren Herstellern, auch aus Europa. Sie brauchen keine Verbindung zum Hersteller, um zu antworten.
Muss ich für lokale KI eigene Hardware kaufen?
Nicht unbedingt. Ein solcher Server lässt sich auch im Rechenzentrum mieten. Ob Kauf oder Miete besser passt, hängt am Vorgang.
Wer prüft die Ergebnisse der KI?
Am Anfang am besten ein Mensch, bei jedem Ergebnis (Vier-Augen-Prinzip). Erst wenn du den Ergebnissen vertraust, sollte mehr ohne Freigabe laufen.
Bietet SNKB lokal betriebene KI an?
Auf Wunsch kann die KI auf der Infrastruktur von SNKB laufen statt in einer fremden Cloud. Ob sie dafür einen eigenen Server bekommt und wer ihn abschalten kann, klärst du vor dem Bau. Analyse, Umsetzung und Einführung laufen je Prozess als Festumfang, der Betrieb kommt als eigener Vertrag dazu.