Datenschutz KI-Tools: ChatGPT, Copilot, Claude und DSGVO

In einem Satz. Der Einsatz von KI-Tools wie ChatGPT, Microsoft Copilot und Claude im Unternehmen ist unter DSGVO zulässig, erfordert aber Enterprise-Lizenz mit AVV, dokumentierte Rechtsgrundlage (meist Art. 6 Abs. 1 lit. f mit Interessenabwägung), Verbot der Eingabe besonderer Kategorien (Art. 9), DSFA bei systematischem Einsatz im Beschäftigtenkontext und Compliance mit dem EU AI Act ab August 2026 für Hochrisiko-Anwendungen.

Die Datenschutzkonferenz (DSK) hat im Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht. Der Hamburgische Datenschutzbeauftragte (HmbBfDI) hat 2023 eine vielzitierte Diskussionspapier zu LLMs veröffentlicht, ob diese überhaupt personenbezogene Daten “speichern” — mit der provokativen Position, dass Modellgewichte keine personenbezogenen Daten seien. Die Position ist umstritten; die italienische Garante hat 2023 ChatGPT temporär gesperrt und 2024 OpenAI mit 15 Mio. € Bußgeld belegt.

Für den Sicherheitsrahmen siehe DSGVO Artikel 32 Sicherheit. Für AVV-Spezifika Auftragsverarbeitungsvertrag AVV.

Wichtige Punkte

• Enterprise-Lizenz statt Free/Consumer-Versionen — letztere nutzen Eingaben oft zum Training.
• AVV abschließen, Datenverarbeitung in EU/EWR konfigurieren wo möglich.
• Eingabe-Verbote dokumentieren: keine besonderen Kategorien, keine Geschäftsgeheimnisse.
• DSFA verpflichtend bei systematischem HR/Bewerber-Einsatz.
• EU AI Act ab August 2026 für Hochrisiko-Anwendungen verpflichtend.

1. Rechtsgrundlage für KI-Einsatz

Szenario	Wahrscheinliche Rechtsgrundlage
Textgenerierung ohne personenbezogene Eingaben	nicht DSGVO-relevant
Mit personenbezogenen Daten zur Produktivität	Art. 6 Abs. 1 lit. f (berechtigtes Interesse)
HR-Tooling (Bewerberauswahl)	§26 BDSG + ggf. Einwilligung
Kundeninteraktion (Chatbot)	Art. 6 Abs. 1 lit. b (Vertrag)
Marketing-Personalisierung	Art. 6 Abs. 1 lit. a (Einwilligung)

2. Enterprise vs. Consumer-Versionen

Anbieter	Consumer	Enterprise
OpenAI ChatGPT	Eingaben können zum Training genutzt werden	ChatGPT Enterprise / Team mit DPA, opt-out by default
Microsoft Copilot	Limitierter Geschäftseinsatz	Copilot for M365 mit M365-DPA
Anthropic Claude	Claude.ai Free/Pro	Claude for Work / API mit DPA
Google Gemini	Eingaben können genutzt werden	Gemini for Workspace mit Workspace-DPA

Faustregel: Consumer-Versionen sind im Geschäftskontext datenschutzrechtlich problematisch.

3. AVV-Anforderungen — die Stolpersteine

Standard-DPAs der KI-Anbieter (OpenAI DPA, Microsoft Product Terms, Anthropic DPA) decken Art. 28-Pflichtinhalte ab. Häufige Custom-Punkte:

• Subunternehmer-Liste — KI-Anbieter nutzen oft AWS/Azure/GCP als Sub-Processor
• Drittlandstransfer — OpenAI/Anthropic in USA; EU-US Data Privacy Framework oder SCC
• Daten-Residency — bei Microsoft Copilot M365-Tenant in EU konfigurierbar
• Training-Opt-out — explizit dokumentieren
• Audit-Rechte — meist nur über SOC 2 / ISO 27001-Zertifikate

4. HmbBfDI-Position zu LLMs

Das Diskussionspapier “Large Language Models und personenbezogene Daten” (Juli 2023) argumentiert:

• Modellgewichte sind keine personenbezogenen Daten (komprimierte statistische Muster)
• Aber: Eingaben und Ausgaben sind sehr wohl personenbezogen
• Konsequenz: DSGVO-Anwendung auf den Inferenzprozess, nicht auf das Modell selbst

Diese Position ist umstritten — EDPB hat 2024 in der Stellungnahme 28/2024 differenziertere Sicht vertreten: Personenbezug kann auch in Modellen “extrahierbar” sein.

5. Eingabe-Disziplin — was nicht reingehört

Verbotene Eingaben in KI-Tools:

• Besondere Kategorien (Gesundheit, Religion, politische Meinung, Sexualität) — Art. 9 Voraussetzungen praktisch unerfüllbar
• Geschäftsgeheimnisse (Quellcode, Strategien, Patente)
• Mandantenakten (anwaltliche Verschwiegenheit)
• Patientendaten (ärztliche Schweigepflicht)
• Kreditkartendaten (PCI-DSS-Verletzung)

Empfohlene Schutzmaßnahmen: DLP (Data Loss Prevention) am Endpoint, KI-Gateway mit Filtern, Mitarbeiter-Schulung.

6. EU AI Act — Zeitleiste

Datum	Verpflichtung
2. August 2024	In Kraft
2. Februar 2025	Verbotene Praktiken (Art. 5) wirksam
2. August 2025	GPAI-Modell-Pflichten
2. August 2026	Hochrisiko-Systeme (Anhang III)
2. August 2027	Hochrisiko-Systeme in regulierten Produkten

Hochrisiko nach Anhang III: HR-Bewerberauswahl, Bonitätsbewertung, Bildungsbewertung, kritische Infrastruktur, Strafverfolgung.

7. HR-Einsatz — der Hochrisiko-Bereich

Bei HR-KI (CV-Screening, Performance-Prediction, Compensation-Optimization):

• DSFA verpflichtend nach Art. 35 Abs. 3 lit. a (systematische Bewertung)
• §26 BDSG als Spezialnorm
• Betriebsrat mitbestimmungspflichtig (BetrVG §87 Abs. 1 Nr. 6)
• Art. 22 DSGVO — keine ausschließlich automatisierte Entscheidung
• EU AI Act Hochrisiko ab 2. August 2026

Siehe DSGVO Artikel 22 automatisierte Entscheidungen und DSGVO Personalwesen Mitarbeiterdaten.

8. Sanktionen und Verfahren

Jahr	Anbieter/Nutzer	Aufsicht	Sanktion/Maßnahme
2023	OpenAI ChatGPT	Garante (IT)	Temporäre Sperrung
2024	OpenAI	Garante (IT)	15 Mio. €
2024	Clearview AI	Hellenic DPA	20 Mio. €
2024	Diverse deutsche AGs	LfDI BW	Verwarnungen Copilot-Rollouts
2025	Replika	Garante (IT)	5 Mio. €

9. Bayern-DSA-Position 2024

Das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) hat 2024 ein Positionspapier zu generativer KI veröffentlicht. Kernforderungen:

• KI-Richtlinie schriftlich
• Schulung verpflichtend
• Eingabe-Disziplin technisch durchsetzen
• Use-Case-Inventar
• Periodische DSFA-Review

10. KI-Governance-Richtlinie — Mindestinhalte

• Zugelassene Tools (Whitelist)
• Use-Cases erlaubt/verboten
• Eingabe-Disziplin (was darf rein)
• Output-Disziplin (Verifikationspflicht, Quellenangabe)
• DSFA-Auslöser
• Schulungspflicht
• Verstoßfolgen

11. Implementierungs-Checkliste

• [ ] KI-Tool-Inventar (welche Tools sind im Einsatz)
• [ ] Enterprise-Lizenzen mit AVV
• [ ] Rechtsgrundlage pro Use-Case dokumentiert
• [ ] DSFA bei systematischem Einsatz
• [ ] Mitarbeiter-Schulung absolviert
• [ ] KI-Richtlinie veröffentlicht
• [ ] Betriebsrat eingebunden (wenn HR-Einsatz)
• [ ] EU AI Act Risikoklassifikation
• [ ] Datenschutzerklärung erwähnt KI-Einsatz (siehe Datenschutzerklärung Muster)
• [ ] Auftragsverarbeitungs-Register aktualisiert

12. Werkzeuge

Legiscope führt ein KI-Use-Case-Register, ordnet jedem Use-Case Rechtsgrundlage und EU-AI-Act-Risikoklasse zu und alarmiert bei Konfigurationsänderungen großer KI-Anbieter.

Verwandte Leitfäden: DSGVO Artikel 22 automatisierte Entscheidungen, Datenschutz-Folgenabschätzung, Auftragsverarbeitungsvertrag AVV.

Fazit

KI-Tools im Unternehmen sind unter DSGVO zulässig — aber nicht mit Consumer-Konten und nicht ohne Disziplin. Die Kombination aus Enterprise-Lizenz, AVV, Eingabe-Disziplin, DSFA und AI-Act-Konformität ist der Pflichtkanon für 2026.

FAQ

Darf ich ChatGPT im Unternehmen einsetzen?

Ja, aber nicht die Free-Version mit unternehmensbezogenen Eingaben. ChatGPT Enterprise/Team mit DPA und Opt-out vom Training ist die DSGVO-konforme Option.

Brauche ich für Microsoft Copilot eine DSFA?

Bei systematischem Einsatz im Beschäftigtenkontext oder mit umfangreichen personenbezogenen Daten ja. Bei punktuellem Office-Einsatz ohne PII: Risikobewertung, ggf. nicht erforderlich.

Was ist mit Open-Source-LLMs (Llama, Mistral) auf eigener Infrastruktur?

Datenschutzrechtlich vorteilhaft, da keine Datenübermittlung an Drittanbieter. Trotzdem DSFA, TOMs und Use-Case-Dokumentation erforderlich.

Wann gilt der EU AI Act für mich?

Verbotene Praktiken seit 2. Februar 2025; Hochrisiko-Systeme (HR, Bonität, Bildung, kritische Infrastruktur) ab 2. August 2026.

Sind Modellgewichte personenbezogene Daten?

Streitig. HmbBfDI verneint, EDPB differenziert. Pragmatisch: Inferenzprozess (Eingaben/Ausgaben) ist unstreitig DSGVO-relevant.