Datenschutz und KI:
Die Architektur entscheidet zuerst.

9. August 2026, aktualisiert am 7. Oktober 2026 Lesedauer 6 Minuten Thorsten Schuh

Dieser Beitrag ist Teil 4 der Serie „KI ordentlich einführen". Teil 1 gibt den Überblick über alle Regeln, Teil 2 behandelt die KI-Verordnung, Teil 3 die Mitbestimmung des Betriebsrats.

Beim Datenschutz wird vieles einfacher, wenn früh feststeht, wohin die Daten fließen. Eine späte Antwort nachträglich zu ändern, kann schwierig werden.

Es gilt dieselbe Verordnung wie für die Personalakte und den Newsletter, auf einen neuen Gegenstand angewendet. Dieser Beitrag ordnet ein, welche Pflichten greifen und wie sich die Architekturentscheidung dazu verhält.

Was heute gilt, und was noch nicht

Die DSGVO, amtlich die Verordnung (EU) 2016/679, gilt seit dem 25. Mai 2018 und ist beim KI-Einsatz unverändert anzuwenden.

Am 19. November 2025 hat die Europäische Kommission mit dem „Digital Omnibus“ Änderungen auch an der DSGVO vorgeschlagen, etwa zu Pseudonymisierung, Forschungsdaten und KI-Training. Dieser Teil ist noch im Gesetzgebungsverfahren; ein Abschluss ist nicht vor 2027 zu erwarten. Beschlossen ist nur der Teil zur KI-Verordnung (Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026).

Einen Teil der Pseudonymisierungs-Erleichterung hat der Europäische Gerichtshof schon vorweggenommen: Nach dem Urteil vom 4. September 2025 (C-413/23 P, EDSB/SRB) können pseudonymisierte Daten für einen Empfänger, der die Person mit vernünftigerweise verfügbaren Mitteln nicht identifizieren kann, keine personenbezogenen Daten sein. Für den Verantwortlichen, der den Schlüssel hat, bleiben sie es. Das ist Rechtsprechung, kein Gesetz.

Wo die Verarbeitung läuft, und was daran hängt

Steht der Zweck fest, fällt die erste große Entscheidung: das Betriebsmodell.

• Im eigenen Haus. Liegen Betrieb und Wartung in eigener Hand, können für die Verarbeitung Auftragsverarbeiter und Drittlandtransfer entfallen; Schnittstellen und Telemetrie gehören mitgeprüft. Bei gemieteter Infrastruktur oder Fernwartung kommen Dienstleister wieder ins Spiel.
• Im eigenen Tenant bei einem Anbieter. Der Tenant ist eine für Sie abgegrenzte Kundenumgebung. In der Regel ist das Auftragsverarbeitung mit Vertrag nach Artikel 28; Prüfpunkte sind das Training mit Ihren Eingaben und der Speicherort.
• Vollständig bei einem Dritten. Der öffentliche Dienst im Browser: bequem, aber mit Eingaben außerhalb Ihres Einflussbereichs. Ohne vertragliche Grundlage kommt das bei personenbezogenen Daten und Betriebsgeheimnissen in der Regel nicht in Betracht.

Das Modell beeinflusst Auftragsverarbeitung, Drittlandtransfer, den Aufwand für Löschung und Auskunft und das Risiko in der Folgenabschätzung. Eine spätere Änderung kann aufwendig sein.

Was Sie in jedem Fall brauchen

Eine Rechtsgrundlage. Jede Verarbeitung braucht eine nach Artikel 6; meist kommen berechtigtes Interesse oder Vertragserfüllung in Betracht. Die Einwilligung trägt im Beschäftigtenverhältnis selten, weil sie freiwillig sein muss. Eine Betriebsvereinbarung kann Grundlage sein, ist aber nach dem Urteil des Gerichtshofs vom 19. Dezember 2024 (C-65/23) an die DSGVO gebunden und gerichtlich voll überprüfbar.

Eine Folgenabschätzung bei hohem Risiko. Artikel 35 verlangt sie bei voraussichtlich hohem Risiko; die Orientierungshilfe der Datenschutzkonferenz vom 6. Mai 2024 hält fest: „Beim Einsatz von KI-Anwendungen wird dies vielfach der Fall sein.“ Am besten entsteht sie beim Aufsetzen.

Einen Auftragsverarbeitungsvertrag, sobald ein Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet. Artikel 28 verlangt ihn. Ob der Anbieter Eingaben zum Training verwendet, hängt vom Tarif ab und steht in den Vertragsbedingungen; das gehört vor der Freigabe geprüft, ebenso Speicherung, Zugriffe und Löschung.

Klarheit über den Verarbeitungsort. Bei Übermittlungen in die USA trägt bei zertifizierten Empfängern der Angemessenheitsbeschluss vom 10. Juli 2023; ob der konkrete Empfänger zertifiziert ist, gehört zur Prüfung. Das Gericht der Europäischen Union hat die Klage dagegen am 3. September 2025 abgewiesen (T-553/23); das Rechtsmittel (C-703/25 P) ist beim Gerichtshof anhängig. Für den Fall, dass der Beschluss fällt, hilft ein vorbereiteter Plan.

Woher das Modell seine Daten hat

Auch das Modell kann ein Datenschutzproblem mitbringen. Nach der Stellungnahme 28/2024 des Europäischen Datenschutzausschusses (angenommen am 17. Dezember 2024) ist ein KI-Modell nicht schon anonym, weil keine Klarnamen darin gespeichert sind; das ist im Einzelfall zu prüfen. Fragen Sie den Anbieter, woher die Trainingsdaten stammen, und heben Sie die Antwort auf. Bleibt sie aus, gehört das in die Bewertung: nachfordern, das Risiko begrenzen oder ein anderes Produkt wählen.

Wenn ein System über Menschen mitentscheidet

Bei Entscheidungen über Menschen kommt eine zusätzliche Prüfung hinzu. Nach Artikel 22 darf niemand einer ausschließlich automatisierten Entscheidung unterworfen werden, die ihm gegenüber rechtliche Wirkung entfaltet oder ihn in ähnlicher Weise erheblich beeinträchtigt. Ausnahmen gibt es für Vertrag, Gesetz und ausdrückliche Einwilligung, jeweils mit Schutzmaßnahmen.

Der Wortlaut klingt eng, doch der Gerichtshof hat ihn am 7. Dezember 2023 im SCHUFA-Verfahren (C-634/21) weit ausgelegt: Schon die Erstellung eines Wahrscheinlichkeitswerts ist eine automatisierte Entscheidung, wenn ein Dritter maßgeblich auf ihn abstellt. Es zählt nicht der letzte Klick, sondern ob der Mensch inhaltlich noch entscheidet. Dafür braucht er Zeit, Information und Befugnis, anders zu entscheiden, und das gehört dokumentiert.

Drei Beispiele aus der Praxis

Ein Assistent auf dem Firmenwissen. In diesem Beispiel entsteht Personenbezug meist spätestens über Protokolle und Namen in Verträgen und Mails. Als Rechtsgrundlage kommt häufig das berechtigte Interesse in Betracht. Der eigentliche Prüfpunkt: Die Zugriffsrechte der Quellsysteme müssen sich in den Antworten wiederfinden, sonst liegt das Problem weniger in der KI als in den Berechtigungen.

Auswertung von Kunden- und Vertragsdaten. In diesem Beispiel kann das Zusammenführen und Auswerten zulässig sein, wenn der Zweck feststeht und zur ursprünglichen Erhebung passt. Wird daraus eine Bewertung einzelner Personen, ist der Weg zu Artikel 22 kurz.

Ein öffentlicher Dienst für den schnellen Entwurf. In diesem Beispiel kann das vertretbar sein, solange keine personenbezogenen oder vertraulichen Inhalte eingegeben werden. Der gangbare Weg ist meist kein Verbot, sondern ein erlaubter Zugang, der die Arbeit ebenso gut erledigt.

Was jetzt zu tun ist

1. Zweck und Daten klären, dann das Betriebsmodell wählen, bevor ein Produkt feststeht. Die Leitung verantwortet, Projektteam, IT und Datenschutz bereiten vor.
2. Datenklassen festlegen: öffentlich, intern, vertraulich, und welche in welchen Dienst gehören.
3. Rechtsgrundlage benennen und das Verarbeitungsverzeichnis ergänzen (Artikel 30); bei einem Anbieter kommt der Auftragsverarbeitungsvertrag dazu.
4. Beim Aufsetzen prüfen, ob eine Folgenabschätzung nötig ist, und sie dann gleich machen, nicht erst auf Nachfrage.
5. Je Anbieter Training, Speicherort und Herkunft der Trainingsdaten prüfen; wo Menschen betroffen sind, klären, wer inhaltlich entscheidet.

Was Sie damit in der Hand haben

Wer diese Punkte bearbeitet hat, weiß, welche Daten wohin fließen, wer zugreifen darf und wer entscheidet, wenn ein neuer Fall auftaucht.

Vor allem beantwortet es die Frage, die im Alltag wirklich gestellt wird: nicht von der Aufsicht, sondern von einer Mitarbeiterin, die wissen will, ob sie diesen Vertrag jetzt in das Werkzeug kopieren darf.

Die weiteren Teile dieser Serie

• Was auf Sie zukommt, wenn Sie KI einführen - der Überblick: alle Regeln, zusammengezogen auf vier Fragen.
• Der AI Act auf einen Blick - was gilt, was der Omnibus verschoben hat und welche Anwendungen betroffen sind.
• Der Betriebsrat - wann Mitbestimmung greift und wie ein Rahmen das nächste Vorhaben beschleunigt.
• NIS-2 - wer betroffen ist und was jetzt zu tun ist.
• Geschäftsgeheimnisse - welche Schutzmaßnahmen zählen und wie eine Nutzungsregelung aussieht.