Datenschutz KI-Tools: ChatGPT, Copilot, Claude und DSGVO

In einem Satz. Der Einsatz von KI-Tools wie ChatGPT, Microsoft Copilot und Claude im Unternehmen ist unter DSGVO zulässig, erfordert aber Enterprise-Lizenz mit AVV, dokumentierte Rechtsgrundlage (meist Art. 6 Abs. 1 lit. f mit Interessenabwägung), Verbot der Eingabe besonderer Kategorien (Art. 9), DSFA bei systematischem Einsatz im Beschäftigtenkontext und Compliance mit dem EU AI Act ab August 2026 für Hochrisiko-Anwendungen.

Die Datenschutzkonferenz (DSK) hat im Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht. Der Hamburgische Datenschutzbeauftragte (HmbBfDI) hat 2023 eine vielzitierte Diskussionspapier zu LLMs veröffentlicht, ob diese überhaupt personenbezogene Daten “speichern” — mit der provokativen Position, dass Modellgewichte keine personenbezogenen Daten seien. Die Position ist umstritten; die italienische Garante hat 2023 ChatGPT temporär gesperrt und 2024 OpenAI mit 15 Mio. € Bußgeld belegt.

Für den Sicherheitsrahmen siehe DSGVO Artikel 32 Sicherheit. Für AVV-Spezifika Auftragsverarbeitungsvertrag AVV. Die maßgebliche EDPB-Bewertung zu KI-Modellen und Personenbezug ist die Stellungnahme 28/2024 des Europäischen Datenschutzausschusses; der parallel geltende Rechtsrahmen ist die KI-Verordnung (EU AI Act, CELEX 32024R1689).

Wichtige Punkte

• Enterprise-Lizenz statt Free/Consumer-Versionen — letztere nutzen Eingaben oft zum Training.
• AVV abschließen, Datenverarbeitung in EU/EWR konfigurieren wo möglich.
• Eingabe-Verbote dokumentieren: keine besonderen Kategorien, keine Geschäftsgeheimnisse.
• DSFA verpflichtend bei systematischem HR/Bewerber-Einsatz.
• EU AI Act ab August 2026 für Hochrisiko-Anwendungen verpflichtend.

1. Rechtsgrundlage für KI-Einsatz

Szenario	Wahrscheinliche Rechtsgrundlage
Textgenerierung ohne personenbezogene Eingaben	nicht DSGVO-relevant
Mit personenbezogenen Daten zur Produktivität	Art. 6 Abs. 1 lit. f (berechtigtes Interesse)
HR-Tooling (Bewerberauswahl)	§26 BDSG + ggf. Einwilligung
Kundeninteraktion (Chatbot)	Art. 6 Abs. 1 lit. b (Vertrag)
Marketing-Personalisierung	Art. 6 Abs. 1 lit. a (Einwilligung)

2. Enterprise vs. Consumer-Versionen

Anbieter	Consumer	Enterprise
OpenAI ChatGPT	Eingaben können zum Training genutzt werden	ChatGPT Enterprise / Team mit DPA, opt-out by default
Microsoft Copilot	Limitierter Geschäftseinsatz	Copilot for M365 mit M365-DPA
Anthropic Claude	Claude.ai Free/Pro	Claude for Work / API mit DPA
Google Gemini	Eingaben können genutzt werden	Gemini for Workspace mit Workspace-DPA

Faustregel: Consumer-Versionen sind im Geschäftskontext datenschutzrechtlich problematisch.

3. AVV-Anforderungen — die Stolpersteine

Standard-DPAs der KI-Anbieter (OpenAI DPA, Microsoft Product Terms, Anthropic DPA) decken Art. 28-Pflichtinhalte ab. Häufige Custom-Punkte:

• Subunternehmer-Liste — KI-Anbieter nutzen oft AWS/Azure/GCP als Sub-Processor
• Drittlandstransfer — OpenAI/Anthropic in USA; EU-US Data Privacy Framework oder SCC
• Daten-Residency — bei Microsoft Copilot M365-Tenant in EU konfigurierbar
• Training-Opt-out — explizit dokumentieren
• Audit-Rechte — meist nur über SOC 2 / ISO 27001-Zertifikate

4. HmbBfDI-Position zu LLMs

Das Diskussionspapier “Large Language Models und personenbezogene Daten” (Juli 2023) argumentiert:

• Modellgewichte sind keine personenbezogenen Daten (komprimierte statistische Muster)
• Aber: Eingaben und Ausgaben sind sehr wohl personenbezogen
• Konsequenz: DSGVO-Anwendung auf den Inferenzprozess, nicht auf das Modell selbst

Diese Position ist umstritten — EDPB hat 2024 in der Stellungnahme 28/2024 differenziertere Sicht vertreten: Personenbezug kann auch in Modellen “extrahierbar” sein.

5. Eingabe-Disziplin — was nicht reingehört

Verbotene Eingaben in KI-Tools:

• Besondere Kategorien (Gesundheit, Religion, politische Meinung, Sexualität) — Art. 9 Voraussetzungen praktisch unerfüllbar
• Geschäftsgeheimnisse (Quellcode, Strategien, Patente)
• Mandantenakten (anwaltliche Verschwiegenheit)
• Patientendaten (ärztliche Schweigepflicht)
• Kreditkartendaten (PCI-DSS-Verletzung)

Empfohlene Schutzmaßnahmen: DLP (Data Loss Prevention) am Endpoint, KI-Gateway mit Filtern, Mitarbeiter-Schulung. Diese Eingaberegeln verankert man am besten in einer übergreifenden IT-Nutzungsrichtlinie als Muster.

6. EU AI Act — Zeitleiste

Datum	Verpflichtung
2. August 2024	In Kraft
2. Februar 2025	Verbotene Praktiken (Art. 5) wirksam
2. August 2025	GPAI-Modell-Pflichten
2. August 2026	Hochrisiko-Systeme (Anhang III)
2. August 2027	Hochrisiko-Systeme in regulierten Produkten

Hochrisiko nach Anhang III: HR-Bewerberauswahl, Bonitätsbewertung, Bildungsbewertung, kritische Infrastruktur, Strafverfolgung. Gerade im Bildungssektor ist die Debatte weit fortgeschritten — siehe unsere Leitfäden zu Microsoft 365 und KI an Schulen sowie zum KI-Einsatz in Universitäten und Forschung.

7. HR-Einsatz — der Hochrisiko-Bereich

Bei HR-KI (CV-Screening, Performance-Prediction, Compensation-Optimization):

• DSFA verpflichtend nach Art. 35 Abs. 3 lit. a (systematische Bewertung)
• §26 BDSG als Spezialnorm
• Betriebsrat mitbestimmungspflichtig (BetrVG §87 Abs. 1 Nr. 6)
• Art. 22 DSGVO — keine ausschließlich automatisierte Entscheidung
• EU AI Act Hochrisiko ab 2. August 2026

Siehe DSGVO Artikel 22 automatisierte Entscheidungen und DSGVO Personalwesen Mitarbeiterdaten.

8. Sanktionen und Verfahren

Jahr	Anbieter/Nutzer	Aufsicht	Sanktion/Maßnahme
2023	OpenAI ChatGPT	Garante (IT)	Temporäre Sperrung
2024	OpenAI	Garante (IT)	15 Mio. €
2024	Clearview AI	Hellenic DPA	20 Mio. €
2024	Diverse deutsche AGs	LfDI BW	Verwarnungen Copilot-Rollouts
2025	Replika	Garante (IT)	5 Mio. €

Das italienische Verfahren gegen OpenAI ist der wichtigste Präzedenzfall: Die Garante beanstandete das Fehlen einer tragfähigen Rechtsgrundlage für das Training mit im Netz gesammelten personenbezogenen Daten, unzureichende Transparenz gegenüber Betroffenen und fehlende Alterskontrollen. Die Konsequenz für deutsche Anwender ist mittelbar, aber real: Wer ein KI-Tool einsetzt, dessen Anbieter selbst rechtswidrig verarbeitet, trägt als Verantwortlicher ein eigenes Auswahl- und Kontrollrisiko. Die Aufsichtsbehörden erwarten deshalb eine dokumentierte Anbieterprüfung — insbesondere zur Frage, ob Eingaben zum Training verwendet werden und wo die Verarbeitung stattfindet. Für die deutsche Praxis heißt das: Enterprise-Vertrag mit vertraglichem Trainings-Ausschluss ist nicht “nice to have”, sondern die Grundlage jeder verteidigungsfähigen Rechtsgrundlagen-Argumentation nach Art. 6 DSGVO.

9. Bayern-DSA-Position 2024

Das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) hat 2024 ein Positionspapier zu generativer KI veröffentlicht. Kernforderungen:

• KI-Richtlinie schriftlich
• Schulung verpflichtend
• Eingabe-Disziplin technisch durchsetzen
• Use-Case-Inventar
• Periodische DSFA-Review

10. KI-Governance-Richtlinie — Mindestinhalte

• Zugelassene Tools (Whitelist)
• Use-Cases erlaubt/verboten
• Eingabe-Disziplin (was darf rein)
• Output-Disziplin (Verifikationspflicht, Quellenangabe)
• DSFA-Auslöser
• Schulungspflicht
• Verstoßfolgen

Der häufigste Fehler in der Praxis ist die “Schatten-KI”: Beschäftigte nutzen private ChatGPT-Konten für dienstliche Aufgaben, weil das Unternehmen keine freigegebene Lösung bereitstellt. Diese unkontrollierte Nutzung ist das größte Risiko, weil sie weder dokumentiert noch technisch begrenzt ist. Die wirksamste Gegenmaßnahme ist nicht das Verbot, sondern das Angebot: eine freigegebene Enterprise-Lösung plus klare, geschulte Regeln senkt die Schatten-Nutzung deutlich stärker als eine reine Untersagung, die ohnehin nicht durchsetzbar ist.

11. Implementierungs-Checkliste

• [ ] KI-Tool-Inventar (welche Tools sind im Einsatz)
• [ ] Enterprise-Lizenzen mit AVV
• [ ] Rechtsgrundlage pro Use-Case dokumentiert
• [ ] DSFA bei systematischem Einsatz
• [ ] Mitarbeiter-Schulung absolviert
• [ ] KI-Richtlinie veröffentlicht
• [ ] Betriebsrat eingebunden (wenn HR-Einsatz)
• [ ] EU AI Act Risikoklassifikation
• [ ] Datenschutzerklärung erwähnt KI-Einsatz (siehe Datenschutzerklärung Muster)
• [ ] Auftragsverarbeitungs-Register aktualisiert

12. Werkzeuge

Legiscope führt ein KI-Use-Case-Register, ordnet jedem Use-Case Rechtsgrundlage und EU-AI-Act-Risikoklasse zu und alarmiert bei Konfigurationsänderungen großer KI-Anbieter.

Verwandte Leitfäden: DSGVO Artikel 22 automatisierte Entscheidungen, Datenschutz-Folgenabschätzung, Auftragsverarbeitungsvertrag AVV.

Fazit

KI-Tools im Unternehmen sind unter DSGVO zulässig — aber nicht mit Consumer-Konten und nicht ohne Disziplin. Die Kombination aus Enterprise-Lizenz, AVV, Eingabe-Disziplin, DSFA und AI-Act-Konformität ist der Pflichtkanon für 2026.

Der pragmatische Startpunkt für jedes Unternehmen ist ein KI-Use-Case-Inventar: Welche Tools werden tatsächlich genutzt, für welche Zwecke, mit welchen Daten? Aus diesem Inventar leiten sich Rechtsgrundlage, DSFA-Bedarf und AI-Act-Risikoklasse ab. Ohne dieses Fundament bleibt jede KI-Governance abstrakt. Mit ihm lässt sich in wenigen Wochen ein belastbarer Rahmen aufbauen, der die freigegebenen Tools benennt, die Eingabedisziplin technisch absichert und die Beschäftigten schult — genau die Reihenfolge, die Aufsichtsbehörden bei Kontrollen erwarten.

FAQ

Darf ich ChatGPT im Unternehmen einsetzen?

Ja, aber nicht die Free-Version mit unternehmensbezogenen Eingaben. ChatGPT Enterprise/Team mit DPA und Opt-out vom Training ist die DSGVO-konforme Option.

Brauche ich für Microsoft Copilot eine DSFA?

Bei systematischem Einsatz im Beschäftigtenkontext oder mit umfangreichen personenbezogenen Daten ja. Bei punktuellem Office-Einsatz ohne PII: Risikobewertung, ggf. nicht erforderlich. Wann genau eine DSFA verpflichtend ist, erklärt unser Leitfaden zur DSFA-Pflicht nach Art. 35.

Was ist mit Open-Source-LLMs (Llama, Mistral) auf eigener Infrastruktur?

Datenschutzrechtlich vorteilhaft, da keine Datenübermittlung an Drittanbieter. Trotzdem DSFA, TOMs und Use-Case-Dokumentation erforderlich.

Wann gilt der EU AI Act für mich?

Verbotene Praktiken seit 2. Februar 2025; Hochrisiko-Systeme (HR, Bonität, Bildung, kritische Infrastruktur) ab 2. August 2026.

Sind Modellgewichte personenbezogene Daten?

Streitig. HmbBfDI verneint, EDPB differenziert. Pragmatisch: Inferenzprozess (Eingaben/Ausgaben) ist unstreitig DSGVO-relevant.