2.3.2 Intransparenz

KI-Systeme sind in den meisten Fällen intransparent, vor allem dann, wenn sie von großen Technologieanbietern entwickelt wurden; die Folge ist, dass dann auch die Entscheidungslogik nicht durchschaubar ist; diese Intransparenz führt dazu, dass Benachteiligungen nur schwer oder nicht zu entdecken sind, wenn die Systeme von privaten Technologieanbietern entwickelt werden (siehe dazu Eyert, F.; Lopez, P.; 2021), weil die genaue Funktions- und Entscheidungsweise als Geschäftsgeheimnis betrachtet wird. Die diskriminierenden Effekte von KI-Anwendungen liegen so gewissermaßen innerhalb einer technischen „Black Box“, notwendige Anpassungen können kaum eingeleitet werden“ (Eyert, F.; Lopez, P.; 2021).

Auf diese Weise können Verzerrungen entstehen und „vorhandene soziale Ungleichheiten sich in den algorithmischen Systemen niederschlagen und durch deren Rückwirkung auf die Gesellschaft automatisiert verstärkt werden“ (siehe Eyert, F.; Lopez, P.; 2021).

Das kann beispielsweise dazu führen, dass Algorithmen Muster von Inklusion und Exklusion schaffen, indem sie bestimmte Daten als relevante Informationen auswählen und in ihre Handlungsvorschriften integrieren, andere aber nicht. Sienehmen Bewertungen vor, indem sie anhand von Selektionskriterien Unterschiede definieren.

Kropp, C. (2018: 35f). kritisiert auch, dass Algorithmen ein Objektivitätsversprechen produzieren, in dem sich der technische Charakter der Algorithmen als Unparteilichkeitsversicherung gibt, etwa in Bezug auf die Berechnung oder Zuweisung von Infrastrukturleistungen.

Eyert, F. & Lopez, P. (2021) argumentieren, dass die Effizienz (die durch den Einsatz von Algorithmen zustande kommt) einen Preis hat, den oft gerade strukturell benachteiligte Menschen zahlen. [...] und Transparenz daher breiter gedacht werden muss. Wobei es um mehr als technische Transparenz einzelner Entscheidungsprozesse geht, sondern um eine grundlegende Transparenz des Gesamtsystemsund seines Anwendungszusammenhangs gegenüber einer demokratischen Öffentlichkeit; die Öffentlichkeit würde damit Kenntnisse darüber erlangen, „was KI-Systeme können und auf welche Weise sie Ergebnisse und Entscheidungen generieren, welche Alternativen es gibt, wo KI-Systeme bereits verwendet werden und in welchen Kontexten ein Einsatz geplant ist – und zwar, bevor diese kostspielig entwickelt oder angekauft werden“ (Eyert, F.; Lopez, P.; [2021]). Weiters schlagen die Autor:innen vor, in Städten öffentlich einsehbare Register verwendeter KI-Systeme einzurichten, „wie sie die Städte Helsinki und Amsterdam im vergangenen Jahr eingeführt haben.“ (Eyert, F. & Lopez, P.; 2021)

Das Register in Helsinki beispielsweise wird von den Verantwortlichen als „a window to the AI systems that the cities use” beschrieben. Die Register enthalten einen Überblick über die KI-Systeme sowie Details zu den von ihnen verwendeten Datensätzen, wie Daten verarbeitet werden, wie Inklusion sichergestellt wird, welche Risiken bestehen und ob eine Supervision durch Menschen stattfindet. (siehe Wray, S.; 2020 und https://aiforgood.itu.int).

eXplainable AI

Ein neuer Forschungszweig ist die „erklärbare künstliche Intelligenz“. Dabei soll die Black Box in eine Glass Box umgewandelt werden, indem die Schritte, mit denen die KI zu einem Ergebnis kommt, transparent und nachvollziehbar gemacht werden (siehe Schäfer, B.; 2022).