Antidiskriminierungsgesetz gilt natürlich auch für die Grundlagen der Künstlichen Intelligenz

EU-Recht schützt ein bisschen, wenn Maschinen Menschen bewerten

Der Wissenschaftliche Dienst des Bundestages sieht die Nutzer gegenüber den großen Internetdiensten nicht schutzlos dastehen, weil 2018 die Datenschutzverordnung der EU in Kraft tritt. Der Dienst stellt aber Bedarf an Regulierung der Algorithmen fest. Bericht von Patrick Beuth (Zeit-Online, 14. Oktober 2017). Algorithmische Entscheidungsfindung (ADM, Algorithmic Decision Making) findet  längst statt, bei der Kredit– und Jobvergabe, bei der Polizei und vor Gericht zum Beispiel. Im Arbeitspapier “Wenn Maschinen Menschen bewerten” stellt die Bertelsmann-Stiftung viele Fallbeispiele vor.

Autor Konrad Lischka weist aber auch darauf hin, dass solche Prozesse in Deutschland “noch nicht so präsent” sind, ” Google und Facebook aber sind es. Und die europäischen Regierungen und Behörden haben mittlerweile verstanden, dass sie diesen Unternehmen seit Jahren nur hinterherregulieren, statt vorab einen Ordnungsrahmen zu setzen. Im gerade beginnenden Zeitalter dessen, was gemeinhin künstliche Intelligenz (KI) genannt wird und sehr viel mit selbstlernenden Programmen und ADM zu tun hat, soll das nicht noch einmal passieren.”

Das Fazit der Gutachter lautet: Die aktuelle Lage im Telemedien-, Rundfunk-, Wettbewerbs- sowie Datenschutzrecht lässt die Nutzer der großen Internetdienste zumindest “nicht schutzlos” dastehen. In der 2018 in Kraft tretenden EU-Datenschutzgrundverordnung etwa heißt es in Artikel 22, Absatz 1: “Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt”.
Abschließend schreibt der Autor:

“Selbstlernende Systeme (deren Geschichte und Funktionsweise wir hier am Beispiel künstlicher neuronaler Netzwerke erklären) verändern die Gewichtung von Faktoren aber auch permanent. Das ist das Wesen ihres Lernens und passiert auf einer so komplexen Ebene, dass nicht einmal ihre Entwickler zu jedem Zeitpunkt wissen, was genau gerade im System vor sich geht. Das alles darf natürlich kein Grund sein, eine Regulierung zum Schutz von Verbrauchern zu unterlassen. Die Debatte darf sich nur nicht so sehr auf den Begriff Algorithmus konzentrieren, der ja eigentlich nur “Handlungsanweisung zur Lösung eines Problems” bedeutet. Matthias Spielkamp von der Initiative Algorithm Watch warnte bereits im Sommer davor und erinnerte daran, dass Algorithmen und Software von Menschen gemacht und von Unternehmen eingesetzt würden, die dem Antidiskriminierungsgesetz unterliegen. Das müsse halt nur durchgesetzt werden.”