KI verarbeitet personenbezogene Daten

KI-Modelle in Finanzinstituten verarbeiten in aller Regel personenbezogene Daten. Sie lernen aus den Daten von Kunden, sie treffen Entscheidungen über Personen, sie verarbeiten Informationen, die sich auf identifizierbare Menschen beziehen. Damit fallen sie unter die Datenschutz-Grundverordnung, die strenge Anforderungen an die Verarbeitung personenbezogener Daten stellt. Diese Anforderungen gelten für die KI ebenso wie für jede andere Verarbeitung, aber sie werden bei der KI oft übersehen.

Das Übersehen hat einen Grund: Die KI fühlt sich anders an als die klassische Datenverarbeitung. Sie wirkt wie eine technische Spielerei, wie ein Werkzeug, das Muster erkennt, nicht wie eine Verarbeitung personenbezogener Daten im Sinne des Datenschutzrechts. Doch dieser Eindruck täuscht. Wenn ein Modell aus den Daten von Kunden lernt und über Personen entscheidet, ist das eine Verarbeitung personenbezogener Daten, und das Datenschutzrecht gilt in vollem Umfang.

Wo die stillen Verstöße entstehen

Die stillen Verstöße entstehen vor allem beim Training der Modelle. Um ein Modell zu trainieren, braucht man Daten, oft große Mengen davon, und diese Daten sind häufig personenbezogen. Die Frage, ob die Verwendung dieser Daten zum Training datenschutzrechtlich zulässig ist, wird dabei oft nicht gestellt. Man nimmt die Daten, die verfügbar sind, und trainiert das Modell, ohne zu prüfen, ob die Daten für diesen Zweck verwendet werden dürfen.

Genau hier liegt das Problem. Personenbezogene Daten dürfen nur für die Zwecke verwendet werden, für die sie erhoben wurden, oder für damit vereinbare Zwecke, und es braucht eine Rechtsgrundlage für die Verarbeitung. Daten, die für die Abwicklung eines Vertrags erhoben wurden, dürfen nicht ohne Weiteres zum Training eines Modells verwendet werden, das ganz anderen Zwecken dient. Wer das nicht prüft, verarbeitet die Daten möglicherweise unzulässig, und das ist ein Verstoß, auch wenn niemand ihn bemerkt.

Ein weiterer stiller Verstoß entsteht bei der Aufbewahrung der Trainingsdaten. Personenbezogene Daten dürfen nicht länger aufbewahrt werden, als es für den Zweck nötig ist. Trainingsdaten, die nach dem Training nicht mehr gebraucht, aber dennoch aufbewahrt werden, können gegen diesen Grundsatz verstoßen. Auch hier entsteht der Verstoß im Verborgenen, weil niemand die Aufbewahrung der Trainingsdaten als datenschutzrechtliches Problem wahrnimmt.

Die Rechte der Betroffenen

Die Datenschutz-Grundverordnung gewährt den betroffenen Personen Rechte, und diese Rechte gelten auch gegenüber KI-Modellen. Eine Person hat das Recht zu erfahren, wie ihre Daten verarbeitet werden, sie hat unter Umständen das Recht auf Löschung, und sie hat Rechte im Zusammenhang mit automatisierten Entscheidungen, die ihr gegenüber rechtliche Wirkung entfalten. Diese Rechte stellen Anforderungen, die ein Modell-Betreiber erfüllen können muss.

Das ist bei KI-Modellen anspruchsvoll. Wenn eine Person verlangt, dass ihre Daten gelöscht werden, stellt sich die Frage, was das für ein Modell bedeutet, das aus diesen Daten gelernt hat. Wenn eine Person eine Erklärung für eine automatisierte Entscheidung verlangt, muss das Modell diese Erklärung liefern können. Diese Anforderungen müssen bei der Gestaltung der Modelle von Anfang an bedacht werden, denn nachträglich lassen sie sich oft nur schwer erfüllen. Ein Modell, das ohne Rücksicht auf die Betroffenenrechte gebaut wurde, kann sie später kaum noch gewährleisten.

Datenschutz von Anfang an

Die Lösung liegt darin, den Datenschutz von Anfang an in die Entwicklung der Modelle einzubeziehen. Das Datenschutzrecht kennt den Grundsatz des Datenschutzes durch Technikgestaltung, der genau das verlangt: dass der Datenschutz nicht nachträglich aufgesetzt, sondern von Beginn an mitgedacht wird. Bei KI-Modellen heißt das, schon bei der Planung zu fragen, welche Daten verwendet werden, ob ihre Verwendung zulässig ist, wie die Betroffenenrechte gewahrt werden und wie lange die Daten aufbewahrt werden.

Dieser Ansatz erspart spätere Probleme. Ein Modell, das von Anfang an datenschutzkonform gebaut wurde, läuft nicht Gefahr, dass die stillen Verstöße ans Licht kommen und teuer werden. Es kann die Betroffenenrechte erfüllen, weil es darauf ausgelegt wurde. Und es steht auf einer rechtssicheren Grundlage, die es vor den Konsequenzen eines Datenschutzverstoßes schützt. Der Datenschutz von Anfang an ist deshalb kein Hindernis für die KI, sondern die Voraussetzung für ihren rechtssicheren Einsatz.

Die Verbindung zum KI-Recht

Hinzu kommt, dass der Datenschutz nicht allein steht. Das europäische KI-Recht stellt eigene Anforderungen an die KI, besonders an Hochrisiko-Anwendungen, zu denen im Finanzbereich etwa die Kreditwürdigkeitsbewertung gehört. Diese Anforderungen überschneiden sich teilweise mit dem Datenschutz, gehen aber auch darüber hinaus. Ein Modell-Betreiber muss deshalb beide Regelwerke im Blick haben und ihre Anforderungen zusammen erfüllen.

Diese Verbindung macht die Sache komplexer, aber sie macht sie auch handhabbar, wenn man sie zusammen denkt. Wer den Datenschutz und das KI-Recht gemeinsam betrachtet und seine Modelle so gestaltet, dass sie beiden genügen, schafft eine solide rechtliche Grundlage. Wer dagegen das eine oder das andere übersieht, riskiert Verstöße gegen das übersehene Regelwerk. Die gemeinsame Betrachtung ist deshalb der Weg, der die Modelle rechtssicher macht.

Die Frage der Rechtsgrundlage

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage, und beim Training von KI-Modellen ist diese Rechtsgrundlage oft unklar. Auf welcher Grundlage werden die Daten zum Training verwendet? Hat der Kunde eingewilligt, und falls ja, deckt seine Einwilligung auch das Training eines Modells ab? Oder stützt sich die Verarbeitung auf ein berechtigtes Interesse, und falls ja, überwiegt dieses Interesse die Interessen des Betroffenen? Diese Fragen müssen beantwortet sein, bevor die Daten zum Training verwendet werden.

In der Praxis werden sie oft nicht gestellt. Die Daten sind vorhanden, das Modell soll trainiert werden, und man nimmt die Daten, ohne die Rechtsgrundlage zu prüfen. Das ist der typische stille Verstoß: nicht eine bewusste Missachtung des Rechts, sondern ein Übersehen der Frage. Doch das Übersehen schützt nicht vor den Konsequenzen. Wer ohne tragfähige Rechtsgrundlage trainiert, verarbeitet die Daten unzulässig, und das kann teuer werden, wenn es ans Licht kommt.

Die Zweckbindung

Ein verwandtes Problem ist die Zweckbindung. Personenbezogene Daten dürfen nur für die Zwecke verwendet werden, für die sie erhoben wurden, oder für damit vereinbare Zwecke. Daten, die für die Abwicklung eines Vertrags oder für die Erfüllung einer gesetzlichen Pflicht erhoben wurden, dürfen nicht ohne Weiteres für das Training eines Modells verwendet werden, das einem ganz anderen Zweck dient. Die Zweckbindung setzt der Wiederverwendung der Daten Grenzen, die beim Training oft missachtet werden.

Die Frage, ob das Training ein mit dem ursprünglichen Erhebungszweck vereinbarer Zweck ist, lässt sich nicht pauschal beantworten, sondern verlangt eine Prüfung im Einzelfall. Diese Prüfung ist anspruchsvoll, aber sie ist notwendig, denn ohne sie bleibt offen, ob die Verwendung der Daten zum Training zulässig ist. Wer die Zweckbindung beim Training ignoriert, schafft einen weiteren stillen Verstoß, der im Verborgenen schlummert, bis er entdeckt wird.

Die Anonymisierung als Ausweg

Ein möglicher Ausweg aus manchen dieser Probleme ist die Anonymisierung der Trainingsdaten. Wenn die Daten so anonymisiert werden, dass sich keine Person mehr identifizieren lässt, sind sie keine personenbezogenen Daten mehr, und die Datenschutz-Grundverordnung gilt nicht mehr für sie. Das Training auf anonymisierten Daten umgeht damit viele der datenschutzrechtlichen Probleme, die das Training auf personenbezogenen Daten mit sich bringt.

Doch die Anonymisierung ist anspruchsvoller, als sie klingt. Eine echte Anonymisierung, die eine Re-Identifizierung ausschließt, ist schwer zu erreichen, besonders bei reichen, detaillierten Datensätzen, wie sie für das Training oft verwendet werden. Eine vermeintliche Anonymisierung, die sich rückgängig machen lässt, genügt nicht und schafft eine falsche Sicherheit. Wer auf die Anonymisierung setzt, muss sicherstellen, dass sie tatsächlich gelingt, sonst verarbeitet er weiterhin personenbezogene Daten, nur in dem irrigen Glauben, es nicht zu tun.

Die Dokumentation als Schutz

Ein zentraler Schutz gegen die Folgen von Datenschutzproblemen ist die Dokumentation. Wer dokumentiert, welche Daten er zum Training verwendet, auf welcher Rechtsgrundlage, mit welcher Prüfung der Zweckbindung und mit welchen Vorkehrungen für die Betroffenenrechte, kann gegenüber der Aufsicht belegen, dass er sorgfältig vorgegangen ist. Diese Dokumentation ist der Nachweis, der im Ernstfall den Unterschied macht zwischen einem nachvollziehbaren, sorgfältigen Vorgehen und einem unkontrollierten Umgang mit den Daten.

Die Dokumentation ist zudem ein Werkzeug der Selbstkontrolle. Wer dokumentieren muss, wird gezwungen, die Fragen zu stellen, die sonst übersehen werden. Die Pflicht zur Dokumentation deckt die stillen Verstöße auf, bevor sie entstehen, weil sie verlangt, die Rechtsgrundlage, die Zweckbindung und die Betroffenenrechte zu bedenken. So wird die Dokumentation nicht nur zum Schutz im Nachhinein, sondern zum Mittel, die Verstöße von vornherein zu vermeiden.

Die Verantwortung des Betreibers

Am Ende liegt die Verantwortung beim Betreiber des Modells. Er kann sie nicht an den Anbieter der Technik delegieren und nicht auf die Komplexität der KI schieben. Wer ein Modell betreibt, das personenbezogene Daten verarbeitet, ist für die Einhaltung des Datenschutzrechts verantwortlich, und diese Verantwortung umfasst das Training ebenso wie den Betrieb. Wer sich dieser Verantwortung nicht stellt, riskiert die stillen Verstöße, die irgendwann ans Licht kommen.

Diese Verantwortung ernst zu nehmen bedeutet, den Datenschutz von Anfang an in die Entwicklung und den Betrieb der Modelle einzubeziehen. Es bedeutet, die Fragen nach der Rechtsgrundlage, der Zweckbindung und den Betroffenenrechten zu stellen und zu beantworten, bevor das Modell trainiert wird. Und es bedeutet, das Vorgehen zu dokumentieren, um es belegen zu können. Wer das tut, betreibt seine Modelle rechtssicher. Wir helfen Ihnen dabei. Beginnen Sie mit einem Workshop.

Die automatisierte Entscheidung

Ein besonders sensibler Bereich ist die automatisierte Entscheidung. Die Datenschutz-Grundverordnung gibt den Betroffenen Rechte, wenn eine Entscheidung allein automatisiert getroffen wird und ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Eine automatisierte Kreditentscheidung etwa fällt in diesen Bereich, und der Betroffene hat das Recht, eine menschliche Überprüfung zu verlangen und seinen Standpunkt darzulegen.

Das stellt Anforderungen an die Gestaltung der Modelle und der Prozesse. Es muss möglich sein, eine automatisierte Entscheidung menschlich überprüfen zu lassen, und es muss eine Stelle geben, die diese Überprüfung leistet. Ein Prozess, der die automatisierte Entscheidung als endgültig behandelt, ohne die Möglichkeit der menschlichen Überprüfung, verstößt gegen die Rechte der Betroffenen. Diese Möglichkeit muss von Anfang an vorgesehen sein, denn nachträglich lässt sie sich in einen vollautomatisierten Prozess nur schwer einbauen.

Die Datenminimierung

Ein weiterer Grundsatz der Datenschutz-Grundverordnung ist die Datenminimierung: Es dürfen nur die Daten verarbeitet werden, die für den Zweck nötig sind. Beim Training von Modellen wird dieser Grundsatz oft missachtet, weil man dazu neigt, möglichst viele Daten zu verwenden, in der Annahme, mehr Daten führten zu besseren Modellen. Doch die Datenminimierung verlangt, sich auf die Daten zu beschränken, die für das Modell tatsächlich nötig sind.

Dieser Grundsatz steht in einem Spannungsverhältnis zur Logik der KI, die oft von großen Datenmengen lebt. Doch das Spannungsverhältnis lässt sich auflösen, indem man bewusst prüft, welche Daten das Modell wirklich braucht, und auf die übrigen verzichtet. Diese Prüfung ist nicht nur eine datenschutzrechtliche Pflicht, sondern oft auch im Interesse des Modells, denn nicht jede zusätzliche Datenkategorie verbessert das Modell, und manche schaffen nur Risiken, ohne einen Mehrwert zu bieten.

Die Folgenabschätzung

Bei Verarbeitungen, die ein hohes Risiko für die Betroffenen mit sich bringen, verlangt die Datenschutz-Grundverordnung eine Datenschutz-Folgenabschätzung. Der Einsatz von KI zur Entscheidung über Personen fällt häufig in diesen Bereich, weil er erhebliche Auswirkungen auf die Betroffenen haben kann. Die Folgenabschätzung verlangt, die Risiken der Verarbeitung systematisch zu bewerten und Maßnahmen zu ihrer Minderung zu treffen, bevor die Verarbeitung beginnt.

Diese Folgenabschätzung ist mehr als eine Formalität. Sie zwingt dazu, die Risiken des Modells für die Betroffenen ernsthaft zu durchdenken, und sie deckt Probleme auf, die sonst übersehen würden. Ein Institut, das die Folgenabschätzung sorgfältig durchführt, erkennt die Risiken seiner Modelle und kann ihnen begegnen, bevor sie sich verwirklichen. Eines, das die Folgenabschätzung unterlässt oder oberflächlich abarbeitet, übersieht die Risiken und verstößt zudem gegen eine Pflicht der Verordnung.

Wer all diese Anforderungen zusammennimmt, erkennt, dass der Datenschutz beim KI-Einsatz kein Nebenschauplatz ist, sondern ein zentrales Thema, das über die Zulässigkeit der Modelle entscheidet. Die stillen Verstöße, die heute in vielen Häusern schlummern, werden mit der zunehmenden Aufmerksamkeit für die KI früher oder später ans Licht kommen. Wer sie jetzt aufdeckt und behebt, ist auf der sicheren Seite, wenn die Prüfung kommt.

Die stillen Verstöße ans Licht holen

Der erste Schritt für jeden Modell-Betreiber ist, die stillen Verstöße ans Licht zu holen. Das verlangt eine ehrliche Prüfung der bestehenden Modelle: Welche Daten verwenden sie, woher stammen diese Daten, auf welcher Rechtsgrundlage werden sie verarbeitet, wie werden die Betroffenenrechte gewahrt? Diese Prüfung deckt die Verstöße auf, die im Verborgenen schlummern, und schafft die Grundlage, sie zu beheben.

Mehr zum Thema: CSRD: Was Finanzdienstleister beim ESG-Pflichtreporting übersehen. und KI-Modellrisiko: Was Banken vom IRB-Modell für die KI-Governance lernen können..

Wir helfen Ihnen, Ihre KI-Modelle auf ihre Datenschutzkonformität zu prüfen, die stillen Verstöße aufzudecken und Ihre Modelle so zu gestalten, dass sie dem Datenschutz und dem KI-Recht genügen. Strategie und Umsetzung aus einer Hand. Beginnen Sie mit einem Workshop.