DSGVO-konforme KI: Anforderungen & Praxis-Leitfaden

DSGVO und KI: Warum Datenschutz bei Künstlicher Intelligenz entscheidend ist

Künstliche Intelligenz und DSGVO — das klingt nach einem Spannungsfeld, und das ist es auch. Die Datenschutz-Grundverordnung wurde 2016 verabschiedet, als Large Language Models (LLMs) noch Zukunftsmusik waren. Dennoch enthält die DSGVO alle Instrumente, um den Einsatz von KI-Systemen datenschutzkonform zu gestalten — wenn man sie richtig anwendet.

Für Unternehmen, Kanzleien und Gesundheitseinrichtungen in Deutschland bedeutet das konkret: Jeder Einsatz von KI, der personenbezogene Daten verarbeitet, muss die Anforderungen der DSGVO erfüllen. Das gilt für ChatGPT-Prompts genauso wie für interne KI-Assistenten, automatisierte Dokumentenanalyse oder KI-gestützte Entscheidungssysteme.

Die gute Nachricht: Mit einer On-Premise-LLM-Lösung lassen sich die meisten DSGVO-Herausforderungen elegant lösen. Wenn keine Daten Ihr Netzwerk verlassen, entfallen die größten Compliance-Risiken — vom Drittlandtransfer bis zur Auftragsverarbeitung.

Art. 5 DSGVO: Die sieben Grundsätze — angewandt auf KI

Art. 5 DSGVO definiert sieben Grundsätze für die Verarbeitung personenbezogener Daten. Jeder einzelne hat direkte Auswirkungen auf den Einsatz von KI-Systemen:

1. Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz (Art. 5 Abs. 1 lit. a)

Betroffene Personen müssen wissen, dass ihre Daten von einem KI-System verarbeitet werden. Das bedeutet konkret:

• Datenschutzerklärung aktualisieren: KI-Verarbeitung muss explizit erwähnt werden
• Informationspflichten nach Art. 13/14: Zweck, Rechtsgrundlage und Logik der KI erklären
• Verständliche Sprache: Technische KI-Prozesse allgemeinverständlich beschreiben

On-Premise-Vorteil: Bei lokaler Verarbeitung können Sie genau dokumentieren, welche Daten wie verarbeitet werden — ohne auf die Dokumentation eines Drittanbieters angewiesen zu sein.

2. Zweckbindung (Art. 5 Abs. 1 lit. b)

Personenbezogene Daten dürfen nur für festgelegte, eindeutige und legitime Zwecke erhoben und nicht in einer mit diesen Zwecken unvereinbaren Weise weiterverarbeitet werden. Bei KI-Systemen ist das besonders kritisch:

• Daten, die für Kundenservice erhoben wurden, dürfen nicht ohne Weiteres zum KI-Training verwendet werden
• Jeder neue KI-Anwendungsfall erfordert eine eigene Zweckfestlegung
• Cloud-KI-Anbieter verwenden Nutzerdaten häufig zum Modelltraining — ein klarer Verstoß gegen die Zweckbindung

On-Premise-Vorteil: Sie kontrollieren vollständig, wofür Daten verwendet werden. Kein Anbieter kann Ihre Daten für eigene Zwecke nutzen.

3. Datenminimierung (Art. 5 Abs. 1 lit. c)

KI-Systeme tendieren dazu, möglichst viele Daten zu verarbeiten — das widerspricht dem Grundsatz der Datenminimierung. Konkrete Maßnahmen:

• Nur die für den konkreten KI-Zweck erforderlichen Datenfelder einbeziehen
• Anonymisierung und Pseudonymisierung vor der KI-Verarbeitung implementieren
• Regelmäßige Überprüfung, ob alle verarbeiteten Daten tatsächlich benötigt werden

4. Richtigkeit (Art. 5 Abs. 1 lit. d)

KI-Modelle können halluzinieren — also sachlich falsche Ausgaben erzeugen. Wenn diese Ausgaben personenbezogene Daten betreffen, ist der Richtigkeitsgrundsatz verletzt. Gegenmaßnahmen:

• Human-in-the-Loop bei Entscheidungen, die Personen betreffen
• Regelmäßige Qualitätskontrollen der KI-Ausgaben
• Berichtigungsansprüche (Art. 16) müssen auch bei KI-generierten Daten umsetzbar sein

5. Speicherbegrenzung (Art. 5 Abs. 1 lit. e)

KI-Systeme — insbesondere RAG-Systeme (Retrieval-Augmented Generation) — speichern oft umfangreiche Datenbestände. Achten Sie auf:

• Löschkonzepte für KI-Trainingsdaten und Kontextdaten
• Automatisierte Löschung von Chat-Historien nach definierten Zeiträumen
• Umsetzbarkeit des Rechts auf Löschung (Art. 17) auch im KI-Kontext

6. Integrität und Vertraulichkeit (Art. 5 Abs. 1 lit. f)

Technische und organisatorische Maßnahmen (TOMs) nach Art. 32 DSGVO sind bei KI besonders wichtig:

• Verschlüsselung der Daten at rest und in transit
• Zugriffskontrollen auf KI-Systeme und Trainingsdaten
• Schutz vor Prompt Injection und Data Poisoning
• Netzwerksegmentierung des KI-Systems

On-Premise-Vorteil: Sie implementieren Ihre eigenen Sicherheitsmaßnahmen ohne Abhängigkeit von der Sicherheitsarchitektur eines Cloud-Anbieters.

7. Rechenschaftspflicht (Art. 5 Abs. 2)

Der Verantwortliche muss die Einhaltung aller Grundsätze nachweisen können. Für KI bedeutet das:

• Dokumentation aller KI-Prozesse im Verarbeitungsverzeichnis (Art. 30)
• Audit-Trails für KI-Entscheidungen
• Regelmäßige Überprüfung der Compliance-Maßnahmen
• Data Protection Impact Assessment (DSFA) bei hohem Risiko

Art. 9 DSGVO: Besondere Kategorien personenbezogener Daten und KI

Art. 9 DSGVO verbietet grundsätzlich die Verarbeitung besonderer Kategorien personenbezogener Daten — es sei denn, eine der Ausnahmen aus Art. 9 Abs. 2 greift. Für KI-Systeme ist das hochrelevant, da viele dieser Kategorien in typischen KI-Anwendungsfällen auftauchen:

Praxisbeispiel Gesundheitswesen: Ein Krankenhaus, das KI zur Analyse von Arztbriefen einsetzt, verarbeitet zwangsläufig Gesundheitsdaten nach Art. 9 DSGVO. Bei Cloud-KI-Diensten würden diese hochsensiblen Daten das Krankhausnetz verlassen — ein inakzeptables Risiko. Mit einem On-Premise LLM bleiben alle Patientendaten vollständig innerhalb der eigenen Infrastruktur.

Praxisbeispiel Kanzleien: Anwälte, die KI zur Vertragsanalyse nutzen, verarbeiten häufig Daten, die Rückschlüsse auf politische Meinungen, Gewerkschaftszugehörigkeit oder Gesundheitszustand der Mandanten zulassen. Hier kommt zusätzlich das Mandantengeheimnis nach § 203 StGB hinzu, das eine On-Premise-Lösung praktisch zwingend macht.

Art. 22 DSGVO: Automatisierte Entscheidungen im Einzelfall

Art. 22 Abs. 1 DSGVO gibt jeder betroffenen Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

Für KI-Systeme bedeutet das im Einzelnen:

Wann greift Art. 22?

• KI-gestützte Bewerbungsscreenings — wenn Bewerbungen automatisch vorgefiltert oder abgelehnt werden
• Automatisierte Kreditentscheidungen — wenn KI über Kreditwürdigkeit entscheidet
• KI-basiertes Profiling — wenn aus Daten automatisch Persönlichkeitsprofile erstellt werden
• Algorithmische Preisgestaltung — wenn KI individuelle Preise festlegt

Pflichten des Verantwortlichen

1. Informationspflicht (Art. 13 Abs. 2 lit. f): Betroffene müssen über die Existenz automatisierter Entscheidungsfindung, die Logik und die Tragweite informiert werden
2. Recht auf menschliche Überprüfung (Art. 22 Abs. 3): Betroffene können eine menschliche Überprüfung verlangen
3. Recht auf Erklärung: Die KI-Entscheidung muss erklärbar sein (Stichwort: Explainable AI / XAI)

On-Premise-Vorteil: Mit einem lokalen KI-System können Sie jeden Entscheidungsprozess vollständig protokollieren, die Entscheidungslogik nachvollziehen und Human-in-the-Loop-Workflows implementieren — ohne Einschränkungen durch einen Cloud-Anbieter.

Rechtsgrundlagen für KI-Verarbeitung nach Art. 6 DSGVO

Jede Verarbeitung personenbezogener Daten durch KI benötigt eine Rechtsgrundlage aus Art. 6 Abs. 1 DSGVO. Die relevantesten für KI-Systeme:

Empfehlung: Für interne KI-Anwendungen (z.B. Dokumentensuche, Wissensmanagement) ist das berechtigte Interesse (Art. 6 Abs. 1 lit. f) oft die praktikabelste Rechtsgrundlage — vorausgesetzt, Sie dokumentieren die Interessenabwägung sorgfältig und implementieren angemessene Schutzmaßnahmen.

Datenschutz-Folgenabschätzung (DSFA) für KI-Systeme

Art. 35 DSGVO schreibt eine DSFA vor, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen birgt. Bei KI-Systemen ist das fast immer der Fall, insbesondere wenn:

• Systematische und umfassende Bewertung persönlicher Aspekte (Profiling)
• Umfangreiche Verarbeitung besonderer Kategorien (Art. 9)
• Systematische Überwachung öffentlich zugänglicher Bereiche
• Neue Technologien eingesetzt werden (Art. 35 Abs. 1)

Die Positivlisten der deutschen Datenschutzbehörden (DSK) nennen explizit KI-Systeme als Verarbeitungen, für die eine DSFA durchzuführen ist. Eine detaillierte Schritt-für-Schritt-Anleitung finden Sie in unserem DSFA-Leitfaden für KI.

Drittlandtransfer: Das größte DSGVO-Risiko bei Cloud-KI

Die meisten Cloud-KI-Anbieter — OpenAI, Anthropic, Google — haben ihren Sitz in den USA. Jede Datenübermittlung dorthin ist ein Drittlandtransfer nach Kapitel V DSGVO und erfordert:

1. Angemessenheitsbeschluss — der EU-US Data Privacy Framework (DPF) gilt seit Juli 2023, steht aber rechtlich auf wackeligem Fundament (mögliches „Schrems III")
2. Standardvertragsklauseln (SCCs) — müssen durch ein Transfer Impact Assessment (TIA) ergänzt werden
3. Ergänzende Maßnahmen — Verschlüsselung, Pseudonymisierung, Zugriffskontrollen

Zusätzlich unterliegen US-Unternehmen dem CLOUD Act und FISA Section 702, die US-Behörden Zugriff auf Daten ermöglichen — auch wenn diese in der EU gespeichert sind. Das EuGH-Urteil Schrems II (C-311/18) hat genau dieses Spannungsfeld adressiert.

On-Premise als Lösung: Bei einer On-Premise-LLM-Lösung findet kein Drittlandtransfer statt. Die Daten verlassen weder Ihr Netzwerk noch Deutschland. Kapitel V DSGVO ist schlicht nicht anwendbar — das komplexeste Compliance-Thema entfällt vollständig.

Praxis-Checkliste: DSGVO-konforme KI im Unternehmen

Nutzen Sie diese Checkliste, um die DSGVO-Konformität Ihres KI-Systems systematisch sicherzustellen:

📋 Rechtliche Grundlagen

• ☐ Rechtsgrundlage für die KI-Verarbeitung festgelegt (Art. 6 DSGVO)
• ☐ Verarbeitungsverzeichnis um KI-Verarbeitung ergänzt (Art. 30)
• ☐ Datenschutzerklärung aktualisiert — KI-Nutzung transparent dargestellt
• ☐ Auftragsverarbeitungsvertrag (AVV) geprüft, falls Cloud-KI genutzt wird (Art. 28)
• ☐ Drittlandtransfer geprüft und ggf. SCCs + TIA erstellt (Kapitel V)

📋 Datenschutz-Folgenabschätzung

• ☐ Geprüft, ob DSFA erforderlich ist (Art. 35)
• ☐ DSFA durchgeführt und dokumentiert
• ☐ Datenschutzbeauftragten einbezogen (Art. 35 Abs. 2)
• ☐ Restrisiken identifiziert und akzeptiert oder mitigiert

📋 Technische Maßnahmen

• ☐ Datenverschlüsselung implementiert (at rest und in transit)
• ☐ Zugriffskontrollen für KI-System eingerichtet (RBAC)
• ☐ Audit-Logging für alle KI-Interaktionen aktiviert
• ☐ Anonymisierung/Pseudonymisierung wo möglich eingesetzt
• ☐ Löschkonzept für KI-Daten definiert und implementiert
• ☐ Prompt Injection und Data Poisoning Schutzmaßnahmen implementiert

📋 Organisatorische Maßnahmen

• ☐ Mitarbeiterschulungen zu KI und Datenschutz durchgeführt
• ☐ KI-Richtlinie (Acceptable Use Policy) erstellt und kommuniziert
• ☐ Human-in-the-Loop-Prozesse definiert, wo Art. 22 greift
• ☐ Betroffenenrechte im KI-Kontext sichergestellt (Art. 15–22)
• ☐ Incident-Response-Plan für KI-bezogene Datenschutzvorfälle

📋 Besondere Kategorien (Art. 9)

• ☐ Geprüft, ob besondere Kategorien verarbeitet werden
• ☐ Ausnahmetatbestand nach Art. 9 Abs. 2 identifiziert
• ☐ Zusätzliche Schutzmaßnahmen für sensible Daten implementiert

Warum On-Premise LLM die DSGVO-Compliance vereinfacht

On-Premise LLM-Deployment löst die größten DSGVO-Herausforderungen systembedingt:

Branchenspezifische DSGVO-Anforderungen bei KI

Kanzleien und Rechtsabteilungen

Für Anwälte gelten über die DSGVO hinaus die Schweigepflicht nach § 203 StGB und die berufsrechtlichen Pflichten der BRAO. Cloud-KI kann eine strafbare Offenbarung von Mandantengeheimnissen darstellen. Mehr dazu in unserem Branchenguide für Kanzleien.

Gesundheitswesen

Gesundheitsdaten (Art. 9 DSGVO) unterliegen dem höchsten Schutzniveau. Hinzu kommen Landeskrankenhaus­gesetze, die ärztliche Schweigepflicht (§ 203 StGB) und spezifische Regelungen wie das SGB V und SGB X. Details in unserem Guide für das Gesundheitswesen.

Finanzsektor

Banken und Versicherungen müssen neben der DSGVO auch BaFin-Anforderungen (MaRisk, BAIT/VAIT) und die DORA-Verordnung beachten. KI-gestützte Kreditentscheidungen fallen unter Art. 22 DSGVO und erfordern besondere Transparenz. Mehr in unserem Finanzsektor-Guide.

Das regulatorische Umfeld: DSGVO + EU AI Act + KI-MIG

Die DSGVO ist nicht das einzige Regelwerk, das KI-Systeme betrifft. Unternehmen müssen ein wachsendes regulatorisches Netz beachten:

• DSGVO: Datenschutz bei der Verarbeitung personenbezogener Daten
• EU AI Act: Regulierung von KI-Systemen nach Risikostufen (seit August 2024 in Kraft)
• KI-MIG: Deutsche Umsetzung des EU AI Act — benennt die Bundesnetzagentur als zuständige Behörde
• NIS-2: Cybersicherheitsanforderungen für kritische und wichtige Einrichtungen

Die Anforderungen überlappen sich und verstärken einander. Ein On-Premise-Ansatz adressiert die Kernanforderungen aller dieser Regelwerke gleichzeitig: Datensouveränität, Transparenz, Kontrollierbarkeit und Audit-Fähigkeit.

Fazit: DSGVO-konforme KI ist möglich — mit der richtigen Architektur

Die DSGVO verbietet den Einsatz von KI nicht. Sie verlangt aber, dass Unternehmen die Verarbeitung personenbezogener Daten durch KI-Systeme transparent, zweckgebunden und sicher gestalten. Die größten Compliance-Risiken — Drittlandtransfer, Auftragsverarbeitung, mangelnde Datenkontrolle — lassen sich durch On-Premise-Deployment elegant und nachhaltig lösen.

Unsere Empfehlung: Starten Sie mit unserer Checkliste oben, führen Sie eine DSFA durch und evaluieren Sie eine On-Premise-LLM-Lösung. Für den technischen Einstieg empfehlen wir unseren Ollama Enterprise Guide oder den Open-Source-Modellvergleich.