Datenschutzkonferenz: Datenschutz und KI-Systeme

English Version

Auf Grundlage der Hambacher Erklärung vom 03. April 2019 hat die Datenschutz­konferenz (DSK) in einem Positionspapier verschiedene Anforderungen an KI-Systeme erarbeitet, deren Umsetzung sie für eine datenschutzkonforme Gestaltung von KI-Systemen dringend empfiehlt.

Die in der Hambacher Erklärung festgelegten rechtlichen Rahmenbe­dingungen werden damit im Hinblick auf technische und organisatorische Maßnahmen konkretisiert, die auf die unterschiedlichen Phasen im Lebenszyklus eines KI-Systems bezogen sind. Diese Phasen – Design des KI-Systems, Veredelung von Rohdaten zu Trainingsdaten, Training der KI-Komponenten, Validierung der Daten und KI-Komponenten sowie des KI-Systems, Einsatz des KI-Systems und die Rückkopplung der Ergebnisse – werden am Maßstab von Gewährleis­tungszielen untersucht.
Um aus rechtlichen Anforderungen KI-spezifische technische und organisatorische Maßnahmen abzuleiten und zu systematisieren, werden die Gewährleis­tungsziele Transparenz, Datenminimierung, Nichtverkettung, Intervenierbarkeit, Verfügbarkeit, Integrität und Vertraulichkeit angestrebt. Für die Verarbeitung von personen­bezogenen Daten, bei der KI-Systeme zum Einsatz kommen, gelten die in der DS-GVO formulierten Grundsätze.
Mit dem Positionspapier wird Verantwortlichen im Umfeld von KI ein Handlungsrahmen für die datenschutz­rechtlichen Vorgaben an die Hand gegeben, an dem sie sich bei der Planung und dem Betrieb von KI-Systemen orientieren können. Das Positionspapier soll verdeutlichen, dass der Einsatz von KI-Systemen und der Datenschutz nicht im Widerspruch zueinander stehen. Die Chancen und neuen Möglichkeiten durch den Einsatz von Künstlicher Intelligenz werden durch den modernen Datenschutz nicht verhindert. Das Positionspapier soll die Entwicklung und den Einsatz von KI auch unter Nutzung personen­bezogener Daten konstruktiv begleiten. So werde die Handlungs­sicherheit gesteigert und gleichzeitig sichergestellt, dass die Grundrechte und Grundfreiheiten der Betroffenen, auch in einem von KI-Systemen geprägten Umfeld gewahrt bleiben. 

Die DSK legt dieses Positionspapier auch vor, um den Dialog mit den relevanten Akteuren aus Politik, Wirtschaft, Wissenschaft und Gesellschaft wie den Verbraucher­ver­einigungen auf dieser Grundlage weiter zu intensivieren.

Zur Entschließung der DSK.

Zum Positionspapier.