Zusammenfassung

In Verfahren algorithmischer Entscheidungsfindung (Algorithmic Decision Making, kurz: ADM-Systeme) bewerten Maschinen Menschen und fällen auf dieser Grundlage eine Entscheidung oder geben eine Prognose oder Handlungsempfehlung ab. Damit birgt nicht die Datenverarbeitung an sich, sondern vor allem die Entscheidung als Konsequenz der Verarbeitung Risiken für die Nutzer. Zum einen für Individualrechte, wie informationelle Selbstbestimmung aus dem unmittelbaren Schutzbereich des Datenschutzes, für Persönlichkeitsrechte und individuelle Autonomie. Zum anderen für gruppen- und gesellschaftsbezogene Interessen wie Fairness, Nichtdiskriminierung, soziale Teilhabe und Pluralismus. Um diese Ziele zu sichern, schlagen Experten Maßnahmen vor, mit denen die Verfahren transparent, Einzelentscheidungen erklärbar und revidierbar sowie die Systeme überprüfbar und korrigierbar gemacht werden können. Zudem kann Vielfaltssicherung von ADM-Systemen dazu beitragen, die genannten Interessen zu gewährleisten. Vor diesem Hintergrund geht das vorliegende Gutachten folgender Frage nach: Inwiefern können die ab Mai 2018 geltende EU-Datenschutz-Grundverordnung (DSGVO) und das zeitgleich in Kraft tretende neue Bundesdatenschutzgesetz (BDSG) solche Maßnahmen unterstützen und die durch algorithmische Systeme bedrohten Interessen schützen? Die Analyse macht deutlich: Der Handlungsspielraum der DSGVO insgesamt ist in Bezug auf ADM-Systeme stark eingeschränkt. In den wenigen Anwendungsfällen kann die Verordnung Transparenz und Überprüfbarkeit teilweise herstellen und damit helfen, individuelle Rechte abzusichern. Für gruppen- und gesellschaftsbezogene Ziele wie Nichtdiskriminierung und Teilhabe bietet die DGSVO jedoch kaum Ansatzpunkte. Deshalb bedarf es hier der Diskussion ergänzender Steuerungsansätze auch außerhalb der DSGVO.

https://doi.org/10.11586/2018011