Datenschutz-Folgenabschätzung für KI: Leitfaden & Vorlage

DSFA für KI-Systeme: Warum sie fast immer Pflicht ist

Die Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO ist für KI-Systeme, die personenbezogene Daten verarbeiten, in der Praxis fast immer erforderlich. Der Grund: KI-Systeme erfüllen typischerweise gleich mehrere der Kriterien, die eine DSFA-Pflicht auslösen — neue Technologien, automatisierte Bewertungen, systematische Verarbeitung in großem Umfang.

Viele Unternehmen scheuen den Aufwand einer DSFA. Dabei ist sie nicht nur eine rechtliche Pflicht, sondern auch ein wertvolles Instrument: Eine sorgfältig durchgeführte DSFA identifiziert Datenschutzrisiken frühzeitig, bevor sie zu Beschwerden, Bußgeldern oder Reputationsschäden führen.

Wann ist eine DSFA für KI-Systeme Pflicht?

Art. 35 Abs. 1 DSGVO verlangt eine DSFA, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen birgt. Die Art.-29-Datenschutzgruppe (jetzt: EDPB) hat in ihren Leitlinien (WP 248) neun Kriterien definiert — wenn zwei oder mehr zutreffen, ist eine DSFA in der Regel durchzuführen:

Ergebnis: KI-Systeme erfüllen fast immer die Kriterien 1 (Bewertung/Scoring), 5 (umfangreiche Verarbeitung) und 8 (innovative Technologien) — damit sind mindestens drei von neun Kriterien erfüllt. Eine DSFA ist daher in den meisten Fällen verpflichtend.

Positivlisten der deutschen Aufsichtsbehörden (DSK)

Die Datenschutzkonferenz (DSK) der deutschen Aufsichtsbehörden hat Positivlisten veröffentlicht — Verarbeitungstätigkeiten, für die immer eine DSFA durchzuführen ist. Dazu gehören unter anderem:

• Einsatz von KI zur Verarbeitung personenbezogener Daten zur Steuerung der Interaktion mit den Betroffenen
• Profiling von Beschäftigten mit KI-basierten Systemen
• Zusammenführung von Daten aus verschiedenen Quellen mittels KI
• Automatisierte Auswertung von Kommunikationsinhalten (E-Mail, Chat)

Schritt-für-Schritt: DSFA für KI-Systeme durchführen

Folgen Sie diesem strukturierten Ablauf, um eine vollständige DSFA für Ihr KI-System zu erstellen:

Schritt 1: Schwellwertanalyse — Ist eine DSFA erforderlich?

Bevor Sie eine vollständige DSFA durchführen, prüfen Sie systematisch, ob eine DSFA-Pflicht besteht:

1. Prüfen Sie, ob Ihr KI-System personenbezogene Daten verarbeitet
2. Prüfen Sie die neun Kriterien der WP 248 (siehe Tabelle oben)
3. Prüfen Sie die Positivlisten der DSK
4. Dokumentieren Sie das Ergebnis der Schwellwertanalyse

Tipp: Wenn Sie unsicher sind, führen Sie die DSFA lieber durch. Die Aufsichtsbehörden bewerten das Fehlen einer DSFA strenger als eine möglicherweise unnötige Durchführung.

Schritt 2: Systematische Beschreibung der Verarbeitung

Beschreiben Sie die geplante KI-Verarbeitung umfassend. Art. 35 Abs. 7 lit. a DSGVO verlangt:

• Art und Umfang der Verarbeitung: Welche Daten werden von welchem KI-System wie verarbeitet?
• Zweck der Verarbeitung: Wofür wird die KI eingesetzt?
• Berechtigte Interessen (falls Rechtsgrundlage nach Art. 6 Abs. 1 lit. f)
• Kategorien betroffener Personen: Wessen Daten werden verarbeitet?
• Kategorien personenbezogener Daten: Welche Datenarten (ggf. besondere Kategorien nach Art. 9)?
• Empfänger der Daten: An wen werden Daten weitergegeben?
• Speicherdauer: Wie lange werden Daten (einschließlich KI-Logs) aufbewahrt?

KI-spezifische Ergänzungen:

• Modellbeschreibung: Welches LLM/KI-Modell wird verwendet? (z.B. Llama 4, Mistral, GPT-4)
• Deployment-Methode: On-Premise, Cloud oder Hybrid?
• Trainingsdaten: Welche Daten wurden zum Training/Fine-Tuning verwendet?
• RAG-Datenquellen: Welche Dokumente/Datenbanken sind an das KI-System angebunden?
• Interaktion: Wer interagiert mit dem KI-System? (Mitarbeiter, Kunden, beides?)
• Output-Verwendung: Wie werden KI-Ausgaben verwendet? (Advisory, automatisiert, entscheidungsunterstützend?)

Schritt 3: Bewertung der Notwendigkeit und Verhältnismäßigkeit

Art. 35 Abs. 7 lit. b DSGVO verlangt eine Bewertung der Notwendigkeit und Verhältnismäßigkeit der Verarbeitung. Prüfen Sie:

• Rechtsgrundlage: Ist die Rechtsgrundlage nach Art. 6 DSGVO korrekt gewählt und dokumentiert?
• Zweckbindung: Ist die KI-Verarbeitung tatsächlich für den definierten Zweck erforderlich?
• Datenminimierung: Werden nur die Daten verarbeitet, die für den KI-Zweck notwendig sind?
• Speicherbegrenzung: Gibt es Löschfristen für KI-Logs und verarbeitete Daten?
• Betroffenenrechte: Sind Auskunft (Art. 15), Berichtigung (Art. 16), Löschung (Art. 17) und Widerspruch (Art. 21) gewährleistet?
• Alternativen: Gibt es datenschutzfreundlichere Alternativen, die den Zweck ebenso erfüllen?

Schritt 4: Risikobewertung — Identifikation und Bewertung der Risiken

Dies ist der Kern der DSFA. Identifizieren Sie die Risiken, die Ihre KI-Verarbeitung für betroffene Personen birgt, und bewerten Sie ihre Eintrittswahrscheinlichkeit und Schwere:

Typische Risiken bei KI-Systemen:

Risikobewertungsmatrix

Bewerten Sie jedes Risiko anhand von Eintrittswahrscheinlichkeit und Schwere:

Schritt 5: Maßnahmen zur Risikominderung

Für jedes identifizierte Risiko müssen Maßnahmen definiert werden, die das Risiko auf ein akzeptables Niveau senken. Die Maßnahmen unterteilen sich in:

Technische Maßnahmen (TOMs nach Art. 32)

• On-Premise-Deployment: Eliminiert Drittlandtransfer-Risiko vollständig
• Datenverschlüsselung: At rest (AES-256) und in transit (TLS 1.3)
• Zugriffskontrollen: RBAC (Role-Based Access Control) für KI-System
• Audit-Logging: Lückenlose Protokollierung aller KI-Interaktionen
• Anonymisierung: Personenbezogene Daten vor KI-Verarbeitung anonymisieren/pseudonymisieren
• Prompt Filtering: Input-Validierung gegen Prompt Injection
• Output-Filterung: Automatische Prüfung auf personenbezogene Daten in KI-Ausgaben
• Netzwerksegmentierung: KI-System in isoliertem Netzwerksegment betreiben
• Backup und Recovery: Regelmäßige Sicherung der KI-Konfiguration und -Daten

Organisatorische Maßnahmen

• KI-Richtlinie: Acceptable Use Policy für KI-Systeme
• Mitarbeiterschulung: Schulungen zu Datenschutz und KI-Risiken
• Human-in-the-Loop: Menschliche Überprüfung bei Entscheidungen mit Personenbezug
• Vier-Augen-Prinzip: Kritische KI-Ausgaben werden von zwei Personen geprüft
• Incident-Response-Plan: Vorgehen bei KI-bezogenen Datenschutzvorfällen
• Regelmäßige Überprüfung: Periodische Überprüfung der DSFA (mindestens jährlich)
• Vertragsgestaltung: Bei Cloud-KI: AVV nach Art. 28, SCCs, TIA

Schritt 6: Dokumentation und Freigabe

Die DSFA muss vollständig dokumentiert werden und folgende Stellungnahmen enthalten:

1. Stellungnahme des DSB: Der Datenschutzbeauftragte muss seine Einschätzung abgeben (Art. 35 Abs. 2)
2. Standpunkte der Betroffenen: Sofern angemessen, sollten die Standpunkte der Betroffenen eingeholt werden (Art. 35 Abs. 9)
3. Restrisikobewertung: Verbleibende Risiken nach Maßnahmen bewerten
4. Freigabe durch die Geschäftsführung: Die Geschäftsführung als Verantwortlicher muss die Restrisiken akzeptieren

DSFA-Template-Struktur für KI-Systeme

Nutzen Sie diese Template-Struktur als Ausgangspunkt für Ihre DSFA:

📄 Dokument-Metadaten

• DSFA-Titel und Versionsnummer
• Datum der Erstellung und letzten Aktualisierung
• Verantwortlicher (Name, Position)
• Beteiligter DSB (Name, Kontakt)
• Status (Entwurf / In Prüfung / Freigegeben)

📄 1. Schwellwertanalyse

• Ergebnis der Vorprüfung (DSFA erforderlich: ja/nein)
• Zutreffende Kriterien nach WP 248
• Referenz auf DSK-Positivliste (falls zutreffend)

📄 2. Verarbeitungsbeschreibung

• KI-System und Modellbeschreibung
• Verarbeitungszweck
• Kategorien betroffener Personen und Daten
• Datenflüsse (Eingabe → KI-Verarbeitung → Ausgabe)
• Deployment-Methode (On-Premise / Cloud / Hybrid)
• Datenquellen (RAG-Quellen, Trainingsdaten)
• Empfänger und Auftragsverarbeiter
• Speicherdauer und Löschkonzept

📄 3. Notwendigkeit und Verhältnismäßigkeit

• Rechtsgrundlage und Begründung
• Zweckbindungsprüfung
• Datenminimierungsprüfung
• Prüfung datenschutzfreundlicher Alternativen
• Betroffenenrechte-Sicherstellung

📄 4. Risikobewertung

• Liste identifizierter Risiken
• Bewertung: Eintrittswahrscheinlichkeit × Schwere
• Risikomatrix

📄 5. Maßnahmen

• Technische Maßnahmen (TOMs)
• Organisatorische Maßnahmen
• Zuordnung: Maßnahme → adressiertes Risiko
• Verantwortliche und Umsetzungszeitraum

📄 6. Restrisikobewertung

• Bewertung nach Maßnahmenumsetzung
• Akzeptables Risikoniveau erreicht: ja/nein
• Ggf. Vorabkonsultation erforderlich (Art. 36)

📄 7. Stellungnahmen

• Stellungnahme des DSB
• Ggf. Standpunkte der Betroffenen
• Freigabe durch die Geschäftsführung

📄 8. Überprüfungsplan

• Nächster Überprüfungstermin
• Auslöser für außerplanmäßige Überprüfung
• Verantwortliche für Monitoring

On-Premise LLM: So vereinfacht es die DSFA

Die Wahl der Deployment-Methode hat erheblichen Einfluss auf die DSFA. On-Premise-LLM vereinfacht die DSFA in mehreren zentralen Bereichen:

Konkreter Vorteil: Bei einer On-Premise-DSFA können Sie die Kapitel zu Drittlandtransfer, Auftragsverarbeitung und Cloud-Anbieter-Risiken stark vereinfachen oder ganz streichen. Das reduziert den Dokumentationsaufwand und — wichtiger — die tatsächlichen Risiken.

Häufige Fehler bei der DSFA für KI

Vermeiden Sie diese typischen Fehler:

1. DSFA nach Go-Live: Die DSFA muss vor Beginn der Verarbeitung durchgeführt werden (Art. 35 Abs. 1) — nicht nachträglich
2. DSB nicht einbezogen: Die Stellungnahme des DSB ist gesetzlich vorgeschrieben (Art. 35 Abs. 2)
3. Einmalige Durchführung: Die DSFA ist ein kontinuierlicher Prozess — sie muss bei Änderungen aktualisiert werden (Art. 35 Abs. 11)
4. Oberflächliche Risikobewertung: „Risiko gering" ohne Begründung reicht nicht. Jede Bewertung muss nachvollziehbar begründet sein
5. Fehlende KI-Spezifika: Standard-DSFA-Templates decken KI-spezifische Risiken (Halluzination, Bias, Prompt Injection) oft nicht ab
6. Cloud-Risiken ignoriert: Bei Cloud-KI wird der Drittlandtransfer oft nicht als eigenständiges Risiko bewertet
7. Keine Maßnahmen-Zuordnung: Jedes Risiko braucht mindestens eine zugeordnete Maßnahme
8. Keine Restrisiko-Bewertung: Nach den Maßnahmen muss das verbleibende Risiko erneut bewertet werden

DSFA und EU AI Act: Synergien nutzen

Die DSFA nach DSGVO und das Risikomanagementsystem nach Art. 9 EU AI Act überschneiden sich erheblich. Kluge Unternehmen nutzen diese Synergien:

• Erstellen Sie ein integriertes Risikomanagement-Dokument
• Die Risikobewertung kann für beide Regelwerke gemeinsam durchgeführt werden
• Technische und organisatorische Maßnahmen adressieren oft beide Anforderungen
• Die Dokumentation der Verarbeitung (DSFA) und technische Dokumentation (Art. 11 EU AI Act) können sich ergänzen

Das KI-MIG schafft hier weitere Klarheit, indem es die Zuständigkeiten zwischen Datenschutzbehörden (DSFA) und Bundesnetzagentur (EU AI Act Risikomanagement) abgrenzt.

Fazit: Die DSFA als Grundlage für verantwortungsvollen KI-Einsatz

Die Datenschutz-Folgenabschätzung für KI-Systeme ist mehr als eine regulatorische Pflicht — sie ist die Grundlage für einen verantwortungsvollen und nachhaltigen KI-Einsatz in Ihrem Unternehmen. Mit dem Template und der Schritt-für-Schritt-Anleitung in diesem Leitfaden haben Sie alle Werkzeuge, um eine fundierte DSFA durchzuführen.

Unsere Empfehlung: Kombinieren Sie die DSFA mit einer On-Premise-LLM-Lösung, um sowohl die datenschutzrechtlichen als auch die technischen Risiken zu minimieren. Für den Einstieg empfehlen wir:

• DSGVO & KI Leitfaden — für die datenschutzrechtlichen Grundlagen
• High-Risk KI-Systeme — für die EU AI Act Perspektive
• Ollama Enterprise Guide — für den technischen Einstieg in On-Premise LLM
• Open-Source-Modellvergleich — für die Modellauswahl