Datenschutz schützt Menschen. KI-Sicherheit schützt Unternehmen. Sieh dir an, was passiert, wenn sie sich widersprechen.

Meistens stimmen die beiden überein, und genau diese Übereinstimmung macht das Geschäft möglich. Die interessante Frage sind die Fälle, in denen sie auseinanderfallen — und wer im Raum ist, wenn das passiert.

Zwei Regelwerke mit zwei unterschiedlichen Nutznießern

Die GDPR wurde geschrieben, um Einzelpersonen zu schützen. Das ist keine Interpretation, das ist der erklärte Zweck: der Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten. Jedes Recht darin gehört einer Person. Auskunft, Berichtigung, Löschung, Übertragbarkeit, Widerspruch. Die betroffene Person ist die Nutznießerin, und der Verantwortliche ist die Partei mit den Pflichten.

Der Markt für KI-Datensicherheit wurde auf einem anderen Satz aufgebaut. Er reduziert dein Risiko. Datenlecks, Bußgelder, Reputationsschäden, Verlust geistigen Eigentums. Der Käufer ist der Nutznießer, und die Einzelperson profitiert nur als Nebeneffekt.

Meistens ist das kein Problem, und die Überschneidung ist wirklich groß. Personenbezogene Daten zu löschen, die du nicht behalten solltest, verringert dein Risiko eines Datenlecks und erfüllt gleichzeitig die Speicherbegrenzung. Niemand muss sich entscheiden. Ich vertrete dieses Argument seit acht Jahren, und ich glaube daran: weniger Daten, weniger Risiko, für alle gleichzeitig.

Aber ein Argument, das nur dort geprüft wird, wo es einfach ist, wurde nicht geprüft.

Drei Stellen, an denen es auseinanderfällt

Eins. Das Trainingskorpus.

Jemand schlägt vor, ein Modell mit zehn Jahren Support-Tickets feinabzustimmen. Die Tickets enthalten Kundennamen, Kontodetails, gelegentlich Gesundheitsinformationen, die eine Serviceunterbrechung erklären.

Die Risiko-Perspektive sagt: intern behalten, Zugriff beschränken, ruhende Daten verschlüsseln, Abfragen protokollieren. Alles sinnvoll, alles machbar, und am Ende hast du eine vertretbare Sicherheitslage.

Die Rechte-Perspektive stellt eine andere Frage: Was dachten diese Kunden, was sie da taten? Sie beschrieben ein Problem, damit es behoben wird. Das war der Zweck. Niemand sagte ihnen, dass ihre Worte zu Gewichten werden würden.

Die Sicherheitsantwort und die Datenschutzantwort sind beide schlüssig. Sie beantworten nur unterschiedliche Fragen, und nur eine von ihnen hat den Kunden im Blick.

Zwei. Aufbewahrung von Chat-Logs.

Dein KI-Assistent protokolliert jeden Prompt. Die Aufbewahrungsfrist wird auf zwei Jahre festgelegt, und die Begründung ist Sicherheit: Missbrauchserkennung, Vorfalluntersuchung, Prüfpfad.

Jeder dieser Gründe ist echt. Ich würde dasselbe Argument für Mail-Logs vorbringen.

Aber ein Prompt-Log eines Mitarbeiters ist ein Verhaltensprotokoll von ungewöhnlicher Intimität. Menschen tippen Dinge in einen Assistenten, die sie niemals in eine E-Mail schreiben würden, weil sich der Assistent nicht wie eine Person anfühlt und nicht wie eine Akte. Gesundheitsfragen, formuliert als Richtlinienfragen. Ängste um die eigene Leistung. Was auch immer sie am Dienstag um 23:40 Uhr tatsächlich bearbeiteten.

Du hast Mitarbeiterüberwachung aufgebaut und sie Sicherheitsprotokollierung genannt, und die Einordnung ist nicht falsch. Sie ist nur nicht vollständig.

Drei. Berechtigtes Interesse als universelles Lösungsmittel.

Artikel 6 Absatz 1 lit. f erlaubt Verarbeitung, die zur Wahrung der berechtigten Interessen des Verantwortlichen erforderlich ist, sofern diese Interessen nicht durch die Rechte der betroffenen Person überwogen werden.

Diese letzte Klausel ist ein Abwägungstest, und sie wird wie eine Formalität behandelt. Das Muster ist inzwischen vertraut: Das Interesse wird weit gefasst, die Auswirkung auf Einzelpersonen wird als minimal beschrieben, die Bewertung fällt zugunsten der Verarbeitung aus, und das Dokument wird abgelegt.

Ich habe eine Reihe davon gelesen. Ich habe selten eine gesehen, die gegen die Verarbeitung ausfällt. Ein Test, der immer dieselbe Antwort liefert, wird nicht wirklich durchgeführt.

Das Erkennungszeichen

Es gibt ein zuverlässiges Signal dafür, unter welchem Rahmenwerk eine Entscheidung getroffen wurde, und es braucht nur eine Frage.

Würdest du dich wohl dabei fühlen, diese Entscheidung der Person zu erklären, deren Daten es sind?

Nicht einer Aufsichtsbehörde, mit der man diskutieren kann. Dem Kunden, dessen Support-Ticket zu Trainingsdaten wurde. Dem Mitarbeiter, dessen Prompts zwei Jahre lang aufbewahrt werden.

"Wir haben das aufbewahrt, weil es unser Risiko verringert" ist ein Argument, das noch nie gegenüber einer betroffenen Person vorgebracht wurde, weil es den Kontakt mit einer solchen nicht übersteht. Es ist ein Aktionärsargument im Compliance-Mantel.

Wenn deine Rechtfertigung nur in einem Raum funktioniert, in dem die betroffene Person nicht ist, hast du deine Antwort.

Warum die GDPR-Löschung die günstigere Position ist, nicht nur die richtige

Ich möchte darauf achten, daraus kein rein moralisches Argument zu machen, denn das ist es nicht, und diese Rahmung verliert genau das Publikum, das es am meisten braucht.

Daten, die aus Risikominderungsgründen aufbewahrt werden, häufen sich an. Das ist die Natur des Arguments: Jede einzelne Aufbewahrungsentscheidung wirkt lokal vernünftig, die Kosten werden aufgeschoben, und niemand hat einen Anreiz, für weniger zu argumentieren. Zehn Jahre lokal vernünftiger Entscheidungen ergeben einen Datenbestand, den niemand mehr inventarisieren kann.

Dann ändert sich etwas. Eine Aufsichtsbehörde erlässt eine Entscheidung. Ein Modell wird ausgemustert, und für seine Trainingsdaten muss Rechenschaft abgelegt werden. Ein Datenleck macht jede Aufbewahrungsentscheidung, die du je getroffen hast, rückwirkend und auf einmal zur öffentlichen Angelegenheit.

Daten, die einer konsequent durchgesetzten GDPR-Löschregel unterliegen, häufen sich nicht an. Das ist der ganze Sinn dieser Disziplin. Du hast am Ende weniger zu sichern, weniger zu erklären, weniger zu durchsuchen, wenn ein Auskunftsersuchen eingeht, weniger zu verlieren. Die Compliance-Position und die Kosten-Position laufen zusammen, und sie laufen auf der Seite zusammen, die zufällig auch die richtige ist.

Die Organisationen, bei denen ich gute KI-Governance erlebt habe, sind nicht die mit den größten Compliance-Funktionen. Es sind diejenigen, die früh entschieden haben, dass das Interesse der Einzelperson den Ausschlag gibt, und die es dann nicht jedes Quartal neu verhandeln mussten.

Wo ich am Ende stehe

Ich verkaufe Risikominderung. Das verschafft einem ein Meeting, das übersteht eine Budgetprüfung, und ich werde nicht so tun, als wäre es anders.

Aber der Grund, warum das Produkt funktioniert, ist, dass die GDPR für Menschen geschrieben wurde, und die Disziplin, die sie auferlegt — wisse, was du hast, wisse warum, lösche den Rest — zufällig dieselbe Disziplin ist, die eine Organisation aus Schwierigkeiten heraushält. Das ist eine glückliche Übereinstimmung, und ich habe mich jahrelang darauf gestützt.

Es ist kein Naturgesetz, und wo es nicht mehr gilt, ist es ehrlicher, das auch zu sagen, statt das Risikoargument auf ein Gebiet auszudehnen, das es nicht abdeckt.

Wir sind Hüter von Informationen, die uns Menschen anvertraut haben. Wenn die beiden Rahmenwerke sich widersprechen, entscheidet das darüber.

Pass gut auf dich auf, da draußen.

/A