Initiative D21: Tauziehen um gesetzliche Vorschriften für Künstliche Intelligenz

Seite 2: Verbindliche Richtlinien zum Umgang mit Vorurteilen

Mit den Leitlinien wirbt D21 auch dafür, in die Technik gelangte Vorurteile besser zu erkennen. Es gebe "kein algorithmisches System ohne menschliche Wahrnehmungen und Entscheidungen", erläuterte Irina Eckardt aus der einschlägigen Arbeitsgruppe. Der soziale, kulturhistorische und ökonomische Hintergrund präge generell persönliche Entscheidungen. Dieser Faktor werde unbewusst in jede Entwicklungsphase der Technik mit eingebracht.

Bisher verborgene subjektive Wertungen in analogen Verfahren könnten durch das Umsetzen in algorithmischen Strukturen aber auch sichtbarer werden, heißt es in dem Papier. Dies helfe, erstere auf den Prüfstand zu stellen. Nötig seien auf jeden Fall "klare und verbindliche Richtlinien" zum Umgang mit Vorurteilen.

Transparente KI-Systeme

"Durch die Komplexität algorithmischer Systeme können Fehlurteile, Fehlfunktionen und Bias oftmals nur schwer oder eingeschränkt erkannt werden", haben die Verfasser erkannt. Transparenz sei deswegen "eine notwendige Grundlage" für deren Prüfbarkeit. Daher sollten die eingegebenen Daten, die verwendeten Methoden und die präsentierten Ergebnisse der Verfahren gegenüber Kontrollinstanzen offengelegt werden.

Die Leitlinien der UAG Algorithmen-Monitoring.

(Bild: Stefan Krempl)

"Algorithmische Systeme müssen von Anfang an so gestaltet werden, dass Prozesse im Nachhinein nachvollziehbar sind", schließt sich ein weiterer Punkt an. Zu viele veröffentlichte Informationen könnten die Beteiligten aber überfordern. Daher müssten "kontextbezogene Darstellungen" der verwendeten Methoden "mit Bezug auf unterschiedliche Nutzergruppen" ausgearbeitet werden.

Generell sollte der Einsatz von Algorithmen dem Papier nach ethischen Grundsätzen unterliegen, "deren Einhaltung transparent und nachvollziehbar" ist. Dafür seien Mindeststandards nötig, die einschlägige Systeme auch vergleichbarer machten. Für unabdinglich hält es die Gruppe auch, dass die Technik einen "positiven Nutzen für die Gesellschaft erzeugen" und dem Gemeinwohl dienen müsse. Ähnliche "Algo.Rules" hatten zuvor etwa bereits die Bertelsmann-Stiftung und die Denkfabrik iRights.Lab vorgelegt. (olb)