ChatGPT, Microsoft Copilot und Claude können im Unternehmen unterschiedliche Aufgaben erfüllen: Texte entwerfen, Dokumente zusammenfassen, Wissen erschließen oder Entscheidungen vorbereiten. Ob eine konkrete Nutzung datenschutzrechtlich zulässig ist, hängt von Zweck, Daten, Beteiligten und Konfiguration ab. Eine kostenpflichtige Lizenz ist kein gesetzliches Gütesiegel. Umgekehrt verbietet die DSGVO nicht jede kostenlose Anwendung. Entscheidend ist, ob der vorgesehene Verarbeitungsvorgang rechtmäßig und ausreichend beherrschbar ist.
Dieser Leitfaden behandelt die betriebliche Auswahl und Nutzung solcher Werkzeuge. Er unterscheidet gesetzliche Pflichten von sinnvollen organisatorischen Maßnahmen. Für Deutschland sind insbesondere Beschäftigtendatenschutz und Mitbestimmung zu berücksichtigen. Daneben gilt die KI-Verordnung mit einem im Juli 2026 geänderten Zeitplan. Die Freigabe eines Werkzeugs sollte deshalb immer den konkreten Dienst, die Vertragsfassung, die Einstellungen und die erlaubten Aufgaben benennen.
Zuerst die Verarbeitung beschreiben
Beginnen Sie mit einem klar abgegrenzten Anwendungsfall. Das Überarbeiten eines allgemeinen Produkttextes unterscheidet sich wesentlich vom Zusammenfassen einer Personalakte. Beschreiben Sie, woher die Eingaben kommen, welche Ausgaben entstehen, wer Ergebnisse erhält und ob zusätzliche Datenquellen angeschlossen werden. Berücksichtigen Sie außerdem Benutzerkonten, Protokolle, Supportzugriffe und gespeicherte Gesprächsverläufe. Selbst wenn der eigentliche Text keine personenbezogenen Daten enthält, können Nutzungsdaten von Beschäftigten verarbeitet werden.
Das Entfernen eines Namens reicht nicht zwingend zur Anonymisierung. Eine seltene Funktion, ein konkreter Vorfall und eine Ortsangabe können zusammen eine Person erkennbar machen. Pseudonymisierte Informationen bleiben personenbezogen, solange eine Zuordnung mit vernünftigerweise verfügbaren Mitteln möglich ist. Prüfen Sie deshalb, ob für die Aufgabe eine abstrakte Beschreibung genügt. Die Anleitung zur Datenminimierung bei einzelnen Datenfeldern lässt sich auch auf Dokumente und Eingaben übertragen.
Ein Beispiel: Für eine allgemeine Antwortstruktur auf Kundenbeschwerden benötigt das Werkzeug normalerweise keine vollständige Kundenhistorie. Soll dagegen eine konkrete Reklamation bearbeitet werden, müssen die erforderlichen Angaben und der zulässige Empfängerkreis bestimmt sein. Diese Unterscheidung hilft zugleich, unnötige Datenübermittlungen und unzuverlässige Ergebnisse zu vermeiden. Dokumentieren Sie die Grenze so, dass Beschäftigte sie ohne juristische Einzelfallprüfung im Arbeitsalltag erkennen können.
Welche Rechtsgrundlage trägt den Einsatz?
Für jeden Verarbeitungsvorgang mit personenbezogenen Daten ist eine tragfähige Rechtsgrundlage erforderlich. Ein berechtigtes Interesse nach Artikel 6 Absatz 1 Buchstabe f DSGVO verlangt ein konkretes legitimes Interesse, Erforderlichkeit und eine Abwägung mit den Interessen und Grundrechten der betroffenen Personen. Ein allgemeiner Wunsch nach mehr Produktivität genügt nicht als vollständige Begründung. Berücksichtigen Sie insbesondere weniger eingriffsintensive Alternativen, Erwartungen der Betroffenen und mögliche Folgen fehlerhafter Ausgaben.
Auch die Vertragserfüllung trägt nicht jede technisch nützliche Anwendung. Die Verarbeitung muss für den Vertrag mit der betroffenen Person erforderlich sein; ein Vertrag mit dem KI-Anbieter erfüllt diese Voraussetzung für Kundendaten nicht automatisch. Eine Einwilligung muss freiwillig, informiert, bestimmt und widerruflich sein. Öffentliche Stellen benötigen eine zu ihren Aufgaben passende Grundlage und können sich bei deren Erfüllung nicht auf Artikel 6 Absatz 1 Buchstabe f stützen. Die verschiedenen Rechtsgrundlagen nach Artikel 6 DSGVO sind daher anwendungsbezogen zu prüfen.
Gesundheitsdaten oder Angaben über politische Überzeugungen erfordern zusätzlich eine Ausnahme nach Artikel 9 Absatz 2. Es gibt kein allgemeines gesetzliches Verbot, solche Informationen mit KI zu verarbeiten; ebenso wenig genügt dafür ein gewöhnlicher Auftragsverarbeitungsvertrag. Berufsgeheimnisse und spezialgesetzliche Vorgaben sind zusätzlich zu beachten. Ein Unternehmen kann als interne Schutzregel bestimmte Eingaben untersagen, solange eine geeignete Lösung nicht geprüft ist. Eine solche Freigabegrenze sollte als betriebliche Regel erkennbar sein und nicht als angeblich ausnahmsloses Gesetz dargestellt werden.
Vertrag und tatsächliche Anbieterrolle prüfen
Verarbeitet ein Dienst personenbezogene Daten im Auftrag, ist nach Artikel 28 DSGVO ein schriftlicher, auch elektronischer Vertrag oder ein anderer bindender Rechtsakt nach Unionsrecht oder dem Recht eines Mitgliedstaats erforderlich. Prüfen Sie Inhalt und Leistungsumfang des Auftragsverarbeitungsvertrags: Weisungen, Vertraulichkeit, Sicherheit, Unterstützung bei Betroffenenrechten, Unterauftragnehmer und Kontrollmöglichkeiten müssen zur tatsächlichen Nutzung passen. Eine herunterladbare Standardvereinbarung genügt nicht, wenn die eingesetzten Zusatzfunktionen oder Konten davon gar nicht erfasst werden.
Verwendet ein Anbieter Informationen für eigene Zwecke, ist diese Verarbeitung gesondert einzuordnen. Ein Vertragstitel macht daraus keine Auftragsverarbeitung. Unterscheiden Sie beispielsweise den vereinbarten Antwortdienst von eigenständigen Trainings- oder Analysezwecken. Auch eine gemeinsame Verantwortlichkeit kommt nur bei entsprechender gemeinsamer Bestimmung von Zwecken und Mitteln in Betracht. Die Rollenprüfung muss die wirklichen Datenflüsse erklären, statt alle Beteiligten vorsorglich als Auftragsverarbeiter einzutragen.
Regeln Sie den Ausstieg bereits vor der Einführung. Nach Artikel 28 muss der Verantwortliche grundsätzlich zwischen Rückgabe und Löschung der personenbezogenen Daten wählen können; vorhandene Kopien sind zu löschen, sofern nicht Unionsrecht oder das Recht eines Mitgliedstaats den Auftragsverarbeiter zur Speicherung verpflichtet. Klären Sie, welche Gesprächsverläufe, Dateien und Protokolle darunterfallen und wie Löschungen nachgewiesen werden. Sicherheitszertifikate können die Prüfung unterstützen, ersetzen aber weder die Vertragsinhalte noch die gesetzlich vorgesehenen Informations- und Überprüfungsmöglichkeiten.
Training, Speicherung und Drittlandzugriff getrennt betrachten
Ein vertraglicher Ausschluss der Nutzung von Eingaben zum Modelltraining kann das Risiko begrenzen. Er beantwortet jedoch nicht, wie lange Inhalte für die Diensterbringung, Missbrauchserkennung oder Unterstützung gespeichert werden und wer darauf zugreifen kann. Prüfen Sie deshalb Training, Gesprächshistorie, technische Protokollierung und Support getrennt. Bewahren Sie die maßgebliche Vertrags- und Konfigurationsfassung auf, damit die Entscheidung später nachvollziehbar bleibt.
Eine europäische Speicherregion ist ebenfalls keine vollständige Transferprüfung. Supportzugriffe oder Unterauftragnehmer außerhalb des Europäischen Wirtschaftsraums können gesondert relevant sein. Für eine Drittlandübermittlung muss das einschlägige Instrument nach Kapitel V DSGVO vorliegen, etwa ein anwendbarer Angemessenheitsbeschluss oder geeignete Garantien. Bei Garantien wie Standardvertragsklauseln sind die Umstände der Übermittlung und gegebenenfalls ergänzende Maßnahmen zu prüfen. Der Sitz eines Konzerns allein entscheidet weder über jede tatsächliche Übermittlung noch über deren Zulässigkeit.
Verzichten Sie auf pauschale Aussagen, eine bestimmte Markenfamilie trainiere immer oder nie mit Geschäftsdaten. Vertragsmodelle, eingebundene Dienste und Funktionen können sich unterscheiden und ändern. Legen Sie fest, wer solche Änderungen verfolgt und wann eine erneute Freigabe erforderlich wird. Eine neue Suchintegration kann beispielsweise einen anderen Empfänger oder einen zusätzlichen Verarbeitungszweck einführen, obwohl der Name des verwendeten Werkzeugs unverändert bleibt.
Sind Sprachmodelle automatisch anonym?
Nein. Die EDSA-Stellungnahme 28/2024 verlangt eine Einzelfallbewertung. Dass Modellparameter keine gewöhnliche Kundentabelle bilden, beweist noch keine Anonymität. Relevant sind insbesondere die Möglichkeiten, personenbezogene Trainingsinformationen aus dem Modell zu extrahieren oder durch Abfragen zu erhalten. Dabei sind die vernünftigerweise einsetzbaren Mittel und das konkrete Modell zu berücksichtigen.
Die Stellungnahme behandelt außerdem mögliche Folgen rechtswidriger Datenverarbeitung bei der Modellentwicklung für eine spätere Nutzung. Daraus folgt keine pauschale Haftung jedes Kunden für jeden früheren Fehler eines Anbieters. Unternehmen müssen aber ihre eigene Verarbeitung prüfen und eine dem Risiko angemessene Anbieterbewertung vornehmen. Bekannte Feststellungen einer Aufsicht oder eines Gerichts dürfen dabei nicht einfach ausgeblendet werden. Erfassen Sie offene Fragen, vorhandene Nachweise und die Gründe für die getroffene Auswahl.
Wann braucht es eine Datenschutz-Folgenabschätzung?
Eine Datenschutz-Folgenabschätzung ist vorab erforderlich, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten verursacht. Dabei zählen Art, Umfang, Umstände und Zwecke sowie gegebenenfalls verbindliche Listen der zuständigen Aufsicht. Nicht jede Zusammenfassung mit KI erfüllt diese Schwelle. Umgekehrt macht eine bekannte Standardsoftware eine systematische Bewertung von Personen nicht automatisch risikoarm. Halten Sie auch die Gründe fest, wenn nach sorgfältiger Prüfung keine Folgenabschätzung erforderlich ist.
Artikel 35 Absatz 3 Buchstabe a erfasst insbesondere systematische und umfassende Bewertungen persönlicher Aspekte auf Basis automatisierter Verarbeitung, auf die Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung gestützt werden. Weitere Auslöser sind etwa umfangreiche Verarbeitungen besonderer Datenkategorien. Die Erläuterung zur DSFA-Pflicht nach Artikel 35 hilft bei der Vorprüfung; die praktische Datenschutz-Folgenabschätzung führt durch Risiken und Abhilfemaßnahmen.
Binden Sie den Datenschutzbeauftragten ein, soweit einer benannt ist, und holen Sie ausreichende technische Informationen ein. Bleibt trotz geplanter Maßnahmen ein hohes Risiko, ist unter den Voraussetzungen des Artikels 36 die vorherige Konsultation der Aufsicht erforderlich. Eine bloße Aktennotiz, der Anbieter sei marktüblich, ersetzt diese Prüfung nicht. Ändern sich Datenquellen, Nutzergruppen oder Entscheidungswirkungen wesentlich, muss die Bewertung überprüft werden.
Beschäftigte und Bewerber besonders sorgfältig behandeln
Bei Beschäftigtendaten ist insbesondere § 26 BDSG zusammen mit den unionsrechtlichen Anforderungen zu prüfen. Die Verarbeitung muss für den jeweiligen Beschäftigungszweck erforderlich sein. Einwilligungen sind wegen des Abhängigkeitsverhältnisses besonders sorgfältig auf Freiwilligkeit zu prüfen. Bewerber fallen ebenfalls in den gesetzlichen Beschäftigtenbegriff. Die allgemeine Freigabe eines Schreibassistenten umfasst deshalb keine automatische Erlaubnis zur Bewertung von Arbeitsleistung oder Bewerbungen.
Besteht ein Betriebsrat, sind einschlägige Beteiligungsrechte rechtzeitig zu klären, insbesondere bei technischen Einrichtungen zur Überwachung von Verhalten oder Leistung nach § 87 Absatz 1 Nummer 6 BetrVG. Auch Nutzungsprotokolle können hierfür relevant sein. Legen Sie fest, ob sie ausschließlich für Sicherheit benötigt werden und wer sie auswerten darf. Weiterführend behandelt der Leitfaden zum Datenschutz im Personalwesen die Grenzen der Verarbeitung im Beschäftigungsverhältnis.
Artikel 22 DSGVO schützt vor ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung. Ausnahmen betreffen die notwendige Entscheidung für Abschluss oder Erfüllung eines Vertrags mit der betroffenen Person, eine gesetzliche Ermächtigung mit Schutzmaßnahmen oder deren ausdrückliche Einwilligung. Bei den Vertrags- und Einwilligungsfällen gehören menschliches Eingreifen, Darlegung des eigenen Standpunkts und Anfechtung zu den Mindestgarantien. Besondere Datenkategorien dürfen hierfür grundsätzlich nur unter den Bedingungen des Artikels 9 Absatz 2 Buchstabe a oder g und mit geeigneten Schutzmaßnahmen verwendet werden. Ein Mensch, der Vorschläge nur routinemäßig bestätigt, gewährleistet keine wirksame menschliche Entscheidung. Zuständige Personen brauchen Zeit, ausreichende Informationen und echte Änderungsbefugnis. Die Einzelheiten erläutert Artikel 22 zu automatisierten Entscheidungen.
Welche KI-Verordnung gilt im September 2026?
Datenschutzrecht und KI-Verordnung gelten nebeneinander. Die Einordnung als Anbieter oder Betreiber, der Verwendungszweck und die Risikokategorie entscheiden über die einschlägigen Pflichten. Ein allgemeiner Chatbot ist nicht allein wegen seines Namens ein Hochrisikosystem. Eine Anwendung zur Bewerberauswahl kann dagegen unter Anhang III fallen. Die dortige Einordnung und die begrenzten Ausnahmen des Artikels 6 müssen anhand des konkreten Systems geprüft werden; Profiling im Anwendungsbereich des Anhangs III bleibt besonders relevant.
Die Änderungsverordnung (EU) 2026/1744 ist am 27. Juli 2026 in Kraft getreten. Für die maßgeblichen Hochrisikovorschriften des Kapitels III Abschnitte 1 bis 3 gelten nun grundsätzlich der 2. Dezember 2027 für Artikel 6 Absatz 2 und Anhang III sowie der 2. August 2028 für Artikel 6 Absatz 1 und Anhang I; Artikel 6 Absatz 5 ist ausgenommen. Übergangsregeln für bereits in Verkehr gebrachte Systeme sind zusätzlich zu prüfen. Die frühere pauschale Aussage, alle Hochrisikopflichten gälten ab August 2026, ist deshalb überholt.
Das bedeutet keinen allgemeinen Aufschub aller KI-Pflichten. Bereits anwendbare Verbote bleiben zu beachten. Artikel 50 enthält grundsätzlich seit August 2026 bestimmte Transparenzpflichten, beispielsweise für Systeme zur direkten Interaktion mit Menschen, soweit der KI-Charakter nicht bereits offenkundig ist. Für die Anbieterkennzeichnung synthetischer Ausgaben bestimmter vor August 2026 vermarkteter Systeme besteht eine besondere Frist bis Dezember 2026. Diese Übergangsregel verschiebt nicht pauschal alle Transparenzpflichten.
Auch Artikel 4 wurde geändert: Anbieter und Betreiber müssen Maßnahmen zur Unterstützung der KI-Kompetenz ihres Personals und anderer in ihrem Auftrag handelnder Personen ergreifen. Der Wortlaut verlangt dabei keine Garantie eines bestimmten Kompetenzniveaus jeder einzelnen Person. Schulungen und verständliche Einsatzregeln sollten zur Erfahrung, Aufgabe und betroffenen Personengruppe passen. Ein allgemeines Pflichtzertifikat lässt sich daraus nicht ableiten. Den aktuellen zeitlichen Rahmen erläutert ergänzend die Europäische Kommission zur KI-Verordnung.
Zugriffe und Ausgaben beherrschen
Für angebundene Dokumentensammlungen ist entscheidend, welche Inhalte die Anwendung abrufen darf. Ein Assistent sollte nicht über eine Suche auf Personalakten zugreifen können, die dem jeweiligen Beschäftigten sonst nicht offenstehen. Testen Sie Berechtigungen mit unterschiedlichen Rollen und prüfen Sie, ob Freigabelinks oder Ergebnisexporte neue Zugriffswege schaffen. Die Sicherheitsanforderungen aus Artikel 32 DSGVO gelten auch für diese Verknüpfungen.
Prüfen Sie personenbezogene Ergebnisse vor einer folgenreichen Weiterverwendung. Eine plausibel formulierte Behauptung über eine Person kann sachlich falsch sein oder wichtige Einschränkungen verlieren. Kennzeichnen Sie Entwürfe und Unsicherheiten und vergleichen Sie entscheidende Angaben mit geeigneten Quellen. Die Regeln zur Datenrichtigkeit nach der DSGVO betreffen auch solche erzeugten Informationen. Technische Filter unterstützen diese Aufgabe, ersetzen aber weder fachliche Prüfung noch Verantwortlichkeit.
Selbst betriebene Modelle reduzieren bestimmte externe Datenflüsse, schaffen aber eigene Betriebsaufgaben. Zugriffsrechte, Aktualisierungen, Protokolle und Wiederherstellung bleiben erforderlich. Prüfen Sie zudem, ob tatsächlich alle Komponenten lokal arbeiten oder weitere Dienste angesprochen werden. Eine offene Lizenz sagt nichts Abschließendes über Datenschutz, Sicherheit oder die Rechtmäßigkeit der verwendeten Daten aus. Wählen Sie Maßnahmen nach dem tatsächlichen System und seinem Risiko.
Freigabe, Information und laufende Kontrolle organisieren
Eine IT-Nutzungsrichtlinie sollte erlaubte Anwendungen, Datenarten, Verantwortlichkeiten und einen erreichbaren Klärungsweg nennen. Die DSK-Orientierungshilfe vom Mai 2024 bietet dafür einen Auswahl- und Nutzungsrahmen; sie ist keine abschließende gesetzliche Checkliste und muss mit späteren Rechtsänderungen gelesen werden. Erklären Sie anhand betrieblicher Beispiele, wann Informationen gekürzt, anonymisiert oder gar nicht eingegeben werden dürfen.
Informieren Sie betroffene Personen nach den einschlägigen Artikeln 13 und 14 und organisieren Sie Auskunft, Berichtigung, Löschung und Widersprüche. Ein pauschaler Satz zur Nutzung künstlicher Intelligenz ersetzt keine verständlichen Angaben zu Zwecken, Empfängern und Aufbewahrung. Das Muster einer Datenschutzerklärung muss hierfür an die tatsächlichen Abläufe angepasst werden. Prüfen Sie vorab, ob Dienstleister bei diesen Rechten tatsächlich unterstützen können.
Halten Sie die Freigabe und wesentliche Änderungen nachvollziehbar fest und überprüfen Sie den Einsatz bei relevanten Änderungen. Für Schulen und Hochschulen gelten zusätzliche Aufgaben- und Schutzkontexte; dafür stehen die Leitfäden zu Bildungseinrichtungen und Schulen sowie Universitäten und Forschung. Ein im allgemeinen Büroalltag akzeptabler Einsatz ist nicht automatisch für Prüfungsentscheidungen, Forschungsteilnehmer oder minderjährige Schüler freigegeben.