DSGVO-konforme KI: So setzen Mittelständler Künstliche Intelligenz rechtssicher ein

41 Prozent der deutschen Unternehmen setzen KI aktiv ein. 53 Prozent nennen rechtliche Unsicherheiten als größtes Hemmnis. Ab August 2026 werden sämtliche Bestimmungen der KI-Verordnung wirksam. Wer jetzt keine Strategie hat, riskiert Bußgelder bis 35 Millionen Euro. Dieser Artikel zeigt fünf Architektur-Konzepte, mit denen Mittelständler KI datenschutzkonform nutzen können, und eine Checkliste für die Vorbereitung auf den EU AI Act.

DSGVO-konforme KI im Mittelstand: Datenschutz als Wettbewerbsvorteil

Katrin Hartmann-Seifert | 9. April 2026

In einem Versicherungsunternehmen in Frankfurt nutzt die Hälfte der Mitarbeiter ChatGPT im Browser. Ohne Firmenaccount, ohne Auftragsverarbeitungsvertrag, ohne Dokumentation. Kundennamen, Schadensnummern und manchmal Gesundheitsdaten fließen in ein System, über das das Unternehmen keine Kontrolle hat. Der Datenschutzbeauftragte erfährt davon zufällig. Bis dahin hat die Firma monatelang gegen die DSGVO verstoßen.

Dieses Szenario ist kein Einzelfall. Die sogenannte Schatten-KI ist das größte Datenschutzrisiko im Zusammenhang mit Künstlicher Intelligenz. Mitarbeiter nutzen frei verfügbare KI-Tools für dienstliche Aufgaben, weil die Unternehmen keine genehmigten Alternativen bereitstellen.

Warum Datenschutz bei KI komplizierter ist als bei herkömmlicher Software

Klassische Software verarbeitet Daten nach festgelegten Regeln. Sie wissen genau, welche Daten wohin fließen. Bei KI-Systemen ist das anders, aus drei Gründen.

Erstens: Große Sprachmodelle wurden mit Milliarden von Datenpunkten trainiert. Ob und wie personenbezogene Daten im Modell gespeichert sind, lässt sich nicht vollständig klären. Der Bundesbeauftragte für den Datenschutz (BfDI) hat in seinem Konsultationsbericht 2026 festgestellt, dass eine verlässliche Löschung personenbezogener Daten aus komplexen Modellen derzeit technisch kaum möglich ist.

Zweitens: Bei der Nutzung von Cloud-KI-Diensten verlassen Daten die Unternehmensinfrastruktur. Viele Mittelständler routen ihre KI-Anfragen unwissentlich über US-Server, auch wenn die Hauptanwendung in der EU gehostet wird.

Drittens: Die Grenze zwischen Eingabe und Training verschwimmt. Bei vielen kostenlosen KI-Tools werden Nutzereingaben zum Weitertraining des Modells verwendet. Was heute als Anfrage eingegeben wird, kann morgen als Antwort bei einem anderen Nutzer auftauchen.

Die zwei Regelwerke, die Sie kennen müssen

DSGVO (gilt bereits): Die Datenschutz-Grundverordnung regelt den Umgang mit personenbezogenen Daten. Für den KI-Einsatz gelten die bekannten Grundsätze: Rechtmäßigkeit, Zweckbindung, Datenminimierung, Transparenz. Jede KI-Anwendung, die personenbezogene Daten verarbeitet, braucht eine Rechtsgrundlage, eine Dokumentation im Verarbeitungsverzeichnis und je nach Risikopotenzial eine Datenschutz-Folgenabschätzung (DSFA).

EU AI Act (schrittweise ab 2025, vollständig ab August 2026): Die KI-Verordnung ergänzt die DSGVO um spezifische Anforderungen an KI-Systeme. Sie unterscheidet vier Risikoklassen: verbotene KI-Systeme (z.B. Social Scoring, seit Februar 2025 in Kraft), Hochrisiko-KI (z.B. KI im Personalwesen, ab August 2026 vollständig reguliert), KI mit begrenztem Risiko (z.B. Chatbots, Transparenzpflicht) und KI mit minimalem Risiko (z.B. Spamfilter, keine besonderen Pflichten).

Für die meisten Mittelständler ist die Kategorie "begrenztes Risiko" relevant. Sie umfasst alle KI-Systeme, die direkt mit Menschen interagieren. Die Hauptpflicht: Transparenz. Kunden müssen wissen, dass sie mit einer KI kommunizieren.

Die Bußgelder sind empfindlich. Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes nach KI-Verordnung. Bis zu 20 Millionen Euro oder 4 Prozent nach DSGVO. Beide Bußgeldrahmen können kumuliert werden.

Fünf Architektur-Konzepte für datenschutzkonforme KI

Konzept 1: API statt Browser

Das größte Risiko eliminieren Sie, indem Sie die Browser-Nutzung von KI-Tools unterbinden und auf API-gestützte Systeme umsteigen. Bei API-Nutzung lässt sich vertraglich und technisch sicherstellen, dass Eingaben nicht zum Training verwendet werden. ChatGPT Business, Claude API und Gemini Business bieten Auftragsverarbeitungsverträge und Training-Opt-Out.

Werkzeuge wie n8n ermöglichen es, API-Zugriffe auf KI-Modelle in kontrollierte Workflows einzubetten. Jede Anfrage wird protokolliert, Daten werden vor dem Versand anonymisiert und Zugriffsrechte lassen sich pro Abteilung definieren.

Konzept 2: EU Data Residency

Wählen Sie KI-Anbieter, die Datenverarbeitung innerhalb der EU garantieren. Microsoft Azure bietet seit 2026 eine "Data Zone Standard" für europäische Kunden. Die Daten verlassen den europäischen Wirtschaftsraum technisch nicht. ChatGPT Enterprise hat seit Januar 2026 In-Region GPU Inference für Europa. Claude bietet bei API-Nutzung standardmäßig keinen Einsatz der Daten fürs Training.

Prüfen Sie die Subprozessorenliste Ihres Anbieters. Nur weil der Hauptserver in der EU steht, heißt das nicht, dass keine Daten über US-Knotenpunkte geroutet werden.

Konzept 3: Retrieval Augmented Generation (RAG)

RAG trennt KI-Modell und Unternehmenswissen. Ihre sensiblen Daten liegen in einer eigenen, verschlüsselten Datenbank auf Ihren Servern. Das KI-Modell erhält für jede Anfrage temporären Lesezugriff auf genau den benötigten Textabschnitt. Die Datenbasis bleibt jederzeit unter Ihrer Kontrolle.

Das ist sicherer als das Hochladen von Firmendokumenten in Cloud-KI-Dienste. Und es löst ein häufiges Problem: Wenn sich Ihr Produktkatalog ändert, aktualisieren Sie die Datenbank. Das KI-Modell muss nicht neu trainiert werden.

Konzept 4: Lokale KI-Modelle

Open-Source-Modelle wie Llama 4 oder Mistral Large 3 laufen auf firmeneigenen Servern. Keine Daten verlassen das Unternehmen. Die Modelle sind für viele Standardaufgaben leistungsfähig genug: Textzusammenfassung, E-Mail-Entwürfe, Code-Unterstützung und interne Wissensabfragen.

Der Aufwand ist höher als bei Cloud-Lösungen. Sie brauchen passende Hardware (GPU-Server ab 5.000 Euro) und jemanden, der das Setup betreut. Für Unternehmen mit strengen Geheimhaltungsanforderungen oder in regulierten Branchen ist das die sicherste Variante.

Konzept 5: Pseudonymisierung als Standardprozess

Bevor Daten an ein KI-Modell übermittelt werden, durchlaufen sie einen Pseudonymisierungsschritt. Namen werden durch Codes ersetzt, Adressen gekürzt, sensible Kennzahlen abstrahiert. Das KI-Modell arbeitet mit den anonymisierten Daten. Die Rückübersetzung erfolgt erst im Ergebnis, innerhalb Ihrer geschützten Infrastruktur.

Moderne Orchestrierungstools können diesen Prozess automatisieren. Sie definieren einmal die Regeln, jede Anfrage wird automatisch bereinigt.

Checkliste: In 10 Schritten zur KI-Compliance

KI-Inventar erstellen. Listen Sie alle KI-Tools auf, die im Unternehmen genutzt werden. Auch die inoffiziellen. Fragen Sie aktiv in den Abteilungen nach.

Schatten-KI unterbinden. Stellen Sie genehmigte KI-Tools bereit. Blockieren Sie den Zugang zu kostenlosen Versionen, die keinen AVV bieten.

Auftragsverarbeitungsverträge prüfen. Jeder KI-Anbieter, der personenbezogene Daten verarbeitet, braucht einen AVV nach Art. 28 DSGVO.

KI-Richtlinie verabschieden. Definieren Sie, welche Daten in KI-Tools eingegeben werden dürfen und welche nicht. Kommunizieren Sie die Richtlinie an alle Mitarbeiter.

AI-Literacy-Schulungen durchführen. Seit Februar 2025 Pflicht nach EU AI Act. Dokumentieren Sie die Teilnahme.

Datenschutz-Folgenabschätzung erstellen. Für jede KI-Anwendung, die personenbezogene Daten verarbeitet, ist eine DSFA ratsam. Für Hochrisiko-Anwendungen ist sie Pflicht.

Verarbeitungsverzeichnis aktualisieren. Jede KI-Anwendung gehört ins Verarbeitungsverzeichnis nach Art. 30 DSGVO.

Transparenzpflichten umsetzen. Kunden und Mitarbeiter informieren, wenn sie mit KI interagieren. Ab 2026 gilt die Kennzeichnungspflicht für KI-generierte Inhalte.

Löschkonzept definieren. Wie werden KI-Konversationen gespeichert und gelöscht? Definieren Sie Fristen und automatisieren Sie die Löschung.

Jährliche Überprüfung einplanen. Die Rechtslage entwickelt sich dynamisch. Planen Sie mindestens jährliche Reviews. Bei wesentlichen Änderungen an KI-Systemen sofort.

Was die Aufsichtsbehörden sagen

Die europäischen Datenschutzbehörden sind vernetzt. Die italienische Datenschutzbehörde hat OpenAI 2024 ein Bußgeld von 15 Millionen Euro auferlegt, wegen mangelhafter Informationspflichten und fehlender Rechtsgrundlage für die Datenverarbeitung.

Deutsche Datenschutzaufsichtsbehörden empfehlen, bei jedem KI-Einsatz mit personenbezogenen Daten eine DSFA durchzuführen. Die Blacklist der Datenschutzkonferenz (DSK) listet unter Punkt 11 den Einsatz von KI zur Verarbeitung personenbezogener Daten als Fall auf, der eine DSFA zwingend erfordert.

Der Konsultationsbericht des BfDI hat zudem klargestellt, dass die Frage, ob KI-Modelle personenbezogene Daten enthalten, einzelfallbezogen unter Berücksichtigung realistischer Identifizierungsmöglichkeiten zu bewerten ist. Eine pauschale Entwarnung gibt es nicht.

Datenschutz als Geschäftsvorteil

Die DSGVO-Debatte wird oft als Innovationsbremse geführt. Im internationalen Vergleich ergibt sich ein anderes Bild. Europäische Unternehmen, die Datenschutz sauber umsetzen, gewinnen Vertrauen bei Geschäftspartnern und Endkunden. In regulierten Branchen wie Gesundheitswesen, Finanzen und öffentliche Verwaltung ist DSGVO-Konformität keine Option, sie ist Marktzugangsvoraussetzung.

Für den Mittelstand bedeutet das: Wer heute eine saubere KI-Architektur aufbaut, hat morgen einen Wettbewerbsvorteil gegenüber Konkurrenten, die erst unter Druck nachbessern müssen.

Plattformen wie Replit ermöglichen es, interne KI-Tools mit kontrollierter Datenverarbeitung schnell zu prototypen. Sie können beispielsweise einen internen Chatbot bauen, der nur auf genehmigte Datenquellen zugreift und keine Informationen an Dritte weiterleitet.

Wann Sie externen Rat brauchen

Die Kombination aus DSGVO und KI-Verordnung ist komplex. Drei Situationen, in denen externe Expertise sinnvoll ist:

Hochrisiko-KI im Einsatz: Wenn Sie KI für Personalentscheidungen, Kreditwürdigkeitsprüfung oder biometrische Identifizierung einsetzen, brauchen Sie spezialisierte Rechts- und Technikberatung.

Branchenspezifische Regulierung: Im Gesundheitswesen, in der Finanzbranche und im öffentlichen Sektor gelten zusätzliche Anforderungen, die über DSGVO und AI Act hinausgehen.

Erstmalige KI-Einführung: Wenn Sie bisher keine KI im Unternehmen nutzen und den Einstieg planen, investieren Sie 5.000 bis 15.000 Euro in eine Bestandsaufnahme und Strategieberatung. Das ist günstiger als jedes spätere Bußgeld.

Auf ki-berater-finden.de/experten finden Sie Berater, die sowohl technische als auch rechtliche Aspekte der KI-Compliance abdecken.

Drei Maßnahmen, die Sie diese Woche umsetzen können

Erstens: Fragen Sie in jeder Abteilung, welche KI-Tools genutzt werden. Erstellen Sie eine Liste. Das dauert einen Tag.

Zweitens: Prüfen Sie für jedes Tool, ob ein Auftragsverarbeitungsvertrag vorliegt. Kein AVV? Dann muss das Tool ersetzt oder ein Business-Tarif gebucht werden.

Drittens: Verabschieden Sie eine vorläufige KI-Richtlinie. Zwei Seiten reichen für den Anfang. Welche Tools sind genehmigt? Welche Daten dürfen eingegeben werden? An wen wendet man sich bei Fragen?

Diese drei Schritte kosten keinen Cent und reduzieren Ihr Risiko sofort.

---

Katrin Hartmann-Seifert ist Redakteurin bei ki-berater-finden.de, dem führenden deutschen Verzeichnis für geprüfte KI-Berater und KI-Experten.