KI ohne Cloud: Wie lokale Modelle DSGVO-Probleme lösen

Lokale KI bedeutet: Das Sprachmodell läuft auf eigener Hardware im Unternehmen — die Eingaben verlassen das Haus nicht. Damit entfällt die Datenübermittlung an einen Dritten, und genau die ist das DSGVO-Kernproblem beim Einsatz von Cloud-KI: Rechtsgrundlage, Auftragsverarbeitungsvertrag, Drittlandtransfer und Trainingsnutzung müssen dort für jede Eingabe sauber geklärt sein. Für kleine und mittelständische Unternehmen, die Kundendaten, Personaldaten oder Geschäftsgeheimnisse verarbeiten, ist lokale KI deshalb oft nicht die exotische, sondern die einfachere Lösung.

Rechtsstand: 17. Juli 2026. Allgemeine Orientierung, keine Rechtsberatung im Einzelfall.

Warum Cloud-KI ein Datenschutz-Problem ist

Ein Beispiel, das in fast jedem Unternehmen so oder ähnlich schon passiert ist: Eine Führungskraft kopiert eine Bewerbung in einen Chatbot — „Fasse mir die Kandidatin zusammen.” Praktisch. Juristisch sind in diesem Moment Name, Werdegang und womöglich Gesundheits- oder Religionsangaben (besondere Kategorien nach Art. 9 DSGVO) an ein fremdes Unternehmen übermittelt worden. Ohne Rechtsgrundlage, ohne dass die Bewerberin davon weiß.

Das Problem zerlegt sich in vier Bausteine:

1. Übermittlung an einen Dritten (Art. 6 DSGVO): Jede Eingabe personenbezogener Daten in einen fremd betriebenen Dienst ist eine Verarbeitung, die eine Rechtsgrundlage braucht. „War halt praktisch” ist keine.
2. Auftragsverarbeitung (Art. 28 DSGVO): Verarbeitet der KI-Anbieter in Ihrem Auftrag, braucht es einen AV-Vertrag. Business- und API-Tarife bieten ihn in der Regel an — Gratis- und Privatkonten meist nicht. Genau die sind aber im Umlauf, wenn niemand Regeln aufgestellt hat.
3. Trainingsnutzung: Consumer-Tarife verwenden Eingaben häufig standardmäßig zur Modellverbesserung; bei Business- und API-Tarifen ist das meist vertraglich ausgeschlossen. Entscheidend ist nicht das Marketing, sondern der Vertragstext und die dokumentierte Einstellung.
4. Drittlandtransfer (Art. 44 ff. DSGVO): Bei US-Anbietern trägt derzeit der Angemessenheitsbeschluss zum EU-US Data Privacy Framework — er ist allerdings bereits der dritte Anlauf dieser Konstruktion: Safe Harbor und Privacy Shield wurden beide vom EuGH gekippt. Wer seine Verarbeitung darauf baut, baut auf eine politische Größe.

Nichts davon macht Cloud-KI per se rechtswidrig. Es macht sie aufwendig: Für jede Eingabekategorie muss geklärt sein, welcher Tarif, welcher Vertrag, welche Einstellung, welche Rechtsgrundlage. Ob Ihr Unternehmen diese Hausaufgaben gemacht hat, zeigt der kostenlose KI-DSGVO-Schnellcheck in zehn Fragen.

Und ein Punkt wird regelmäßig unterschätzt: Der Aufwand gilt pro Werkzeug, pro Tarifwechsel, pro AGB-Änderung des Anbieters — er ist nie erledigt, nur aktuell.

Was lokale Modelle heute können — ehrlich eingeordnet

Offene Modelle, die auf einer einzelnen Workstation laufen, sind in den letzten Jahren erheblich besser geworden. Für die Aufgaben, aus denen Büro-Automatisierung tatsächlich besteht, reichen sie heute zuverlässig:

• Klassifizieren: Eingehende E-Mails oder Dokumente nach Typ und Dringlichkeit sortieren
• Extrahieren: Rechnungsnummer, Betrag, Positionen, Ansprechpartner aus PDFs und Mails in strukturierte Felder überführen
• Zusammenfassen: Lange Vorgänge, Berichte oder Schriftwechsel auf das Wesentliche eindampfen
• Strukturiert umformen: Freitext in das Format bringen, das Warenwirtschaft oder Buchhaltung erwarten

Genauso ehrlich die Grenze: Bei komplexem mehrstufigem Schlussfolgern, sehr langen Kontexten und anspruchsvoller Code-Generierung bleiben die großen Cloud-Modelle überlegen. Wer ein Frontier-Modell für Kreativarbeit ohne Personendaten nutzt, verliert durch lokal nichts — wer Belege, Anfragen und Akten verarbeitet, braucht die Frontier-Fähigkeiten in aller Regel nicht.

Zur Hardware-Realität: Für die genannten Aufgaben genügt typischerweise eine Workstation mit einer leistungsfähigen Grafikkarte — einmalige Anschaffung, grob im niedrigen bis mittleren vierstelligen Euro-Bereich, je nach Modellgröße und Durchsatz. Kein Rechenzentrum, kein Abo pro Nutzer, keine laufenden API-Kosten pro Beleg. Die Maschine steht bei Ihnen, und was sie verarbeitet, sieht niemand sonst.

Wichtig für die Erwartung: Der Zuverlässigkeits-Anker in der Praxis ist ohnehin nicht das Modell allein, sondern der Arbeitsablauf drumherum — das Werkzeug schlägt vor, ein Mensch prüft und bestätigt, erst dann wird ins Zielsystem geschrieben. Mit diesem Muster arbeiten auch meine lokal laufenden Automations-Werkzeuge: Der Prüfen-und-Bestätigen-Schritt fängt die Fälle ab, in denen das Modell danebenliegt, und macht den Unterschied zwischen „KI-Spielerei” und einem Werkzeug, dem die Buchhaltung vertraut.

Der hybride Mittelweg

Lokal und Cloud sind kein Entweder-oder. Der in der Praxis bewährte Schnitt:

• Alles mit Personenbezug oder Geschäftsgeheimnis läuft lokal — Belege, Bewerbungen, Kundenkorrespondenz, Verträge, Kalkulationen.
• Cloud-Modelle nur für Aufgaben ohne schutzwürdige Daten — Textentwürfe ohne Namen, allgemeine Recherche, Code ohne Betriebsinterna. Mit Business-Tarif, AV-Vertrag und ausgeschlossener Trainingsnutzung.
• Wo Cloud-Fähigkeiten auf sensiblen Daten nötig wären: erst pseudonymisieren. Namen, Adressen und Kennungen werden lokal durch Platzhalter ersetzt, bevor etwas die Firma verlässt — und lokal wieder eingesetzt, wenn die Antwort zurückkommt. Das ist technischer Aufwand, aber einer, der sich einmal bauen lässt statt bei jeder Eingabe neu entschieden werden zu müssen.

Dieser Schnitt hat einen angenehmen Nebeneffekt: Die KI-Richtlinie fürs Team wird trivial einfach. „Personendaten nur ins lokale Werkzeug” ist eine Regel, die sich jeder merkt — im Gegensatz zu einer Matrix aus erlaubten Tools, Tarifen und Datenklassen.

Die Doku, die dazu gehört

Auch lokale KI ist eine Verarbeitung personenbezogener Daten — sie ist nur drastisch einfacher zu dokumentieren, weil der komplette Drittanbieter-Block entfällt:

• Verarbeitungsverzeichnis (Art. 30 DSGVO): Die KI-gestützte Verarbeitung gehört als Eintrag ins VVT — Zweck, Datenkategorien, Löschfristen. Ohne Drittanbieter: keine Empfänger-Kette, kein Drittlandtransfer-Abschnitt.
• TOMs (Art. 32 DSGVO): Zugriffsschutz auf die Workstation, Verschlüsselung, Update-Prozess — dieselben Maßnahmen, die für jeden Server im Haus gelten.
• DSFA-Prüfung (Art. 35 DSGVO): Bewertet das System Personen systematisch oder verarbeitet es besondere Kategorien in großem Umfang, kann eine Datenschutz-Folgenabschätzung nötig sein — einmal sauber prüfen und das Ergebnis dokumentieren.
• KI-Kompetenz (Art. 4 KI-VO): Die Schulungspflicht gilt seit Februar 2025 unabhängig davon, wo das Modell läuft.

Das ist der Punkt, an dem die übliche Arbeitsteilung teuer wird: Der Entwickler baut, dann prüft ein zweiter Dienstleister — und beide erklären sich gegenseitig, warum die Doku nicht zur Technik passt. Bei mir kommt beides aus einer Hand: Ich bin Entwickler und IHK-zertifizierter Datenschutzbeauftragter; das Werkzeug und die prüffeste Dokumentation (AVV, TOMs, VVT-Eintrag) entstehen zusammen.

Häufige Fragen

Ist ChatGPT im Unternehmen jetzt verboten?

Nein. Cloud-KI ist mit den richtigen Bausteinen beherrschbar: passender Tarif mit AV-Vertrag, Trainingsnutzung ausgeschlossen, klare Regel, welche Daten hinein dürfen, geschulte Mitarbeitende. Das Problem ist nicht das Werkzeug, sondern der ungeregelte Einsatz von Privatkonten mit Firmendaten — und der ist der Normalfall, solange niemand Regeln aufstellt.

Was kostet der Einstieg in lokale KI?

Die Hardware ist eine einmalige Anschaffung im vierstelligen Bereich, die Modelle selbst sind offen verfügbar. Die eigentliche Investition steckt im Werkzeug drumherum: Anbindung an Ihre Systeme, der Prüfen-und-Bestätigen-Ablauf, Betrieb und Pflege. Ob sich das rechnet, lässt sich vorher beziffern — mein kostenloses Prozess-Audit liefert die Zahl, was die heutige Handarbeit pro Jahr kostet, bevor Sie einen Euro ausgeben.

Reicht nicht der EU-Server eines US-Anbieters?

EU-Datenresidenz ist ein echter Fortschritt, löst aber ein Problem nicht: Nach dem US CLOUD Act können US-Behörden von US-Unternehmen die Herausgabe von Daten verlangen, auch wenn diese auf europäischen Servern liegen. Wer das Restrisiko bewerten und tragen will, kann das dokumentiert tun — wer es nicht tragen will, hat mit lokaler Verarbeitung eine Alternative, bei der die Frage gar nicht erst entsteht.