Sexismus reloaded

Künstliche Intelligenz fasziniert: scheinbar selbst denkende Maschinen, die dem menschlichen Geist in einigen Punkten sogar voraus erscheinen. Algorithmen und Sprachmustererkennung, die Reisevorschläge, Hausaufgaben und Kurzgeschichten durch Einsatz von textbasierten Chatbots ausspucken. Zuallererst war und ist die Umsetzung künstlicher Intelligenz (KI) eine technische Herausforderung. Hinzu kommen moralische, ethische und soziologische Aspekte, die zwar jede neue technische Entwicklung begleiten, durch die Imitation und Illusion menschlicher und lernender Prozesse jedoch eine eigene Brisanz bekommen.

So veröffentlichte der Deutsche Ethikrat in dieser Woche eine Stellungnahme unter dem Titel »Mensch und Maschine – Herausforderung durch künstliche Intelligenz«. Dessen Vorsitzende Alena Buyx stellte bei der Vorstellung am Montag in Berlin die Frage: »Welche Auswirkungen hat es, wenn Tätigkeiten, die vorher Menschen vorbehalten waren, an Maschinen delegiert werden, und wie werden durch diese Übertragung die Möglichkeiten anderer Menschen beeinflusst, vor allem jene, über die entschieden wird?« Die moralische Antwort auf diese tiefgreifende Frage lieferte sie bereits mit. Sie versicherte, KI müsse »menschliche Entfaltung, Autorschaft und Handlungsmöglichkeiten erweitern«, statt sie einzuschränken.

Das ist ein hehres Ziel. Allerdings sieht die Realität oft anders aus. Insbesondere marginalisierte Gruppen werden durch Prozesse, die KI nutzen, diskriminiert. Die nur scheinbar neu­trale technische Lösung sorgt eben nicht für Gleichberechtigung. So das Ergebnis einer Anfang März im Auftrag der gewerkschaftsnahen Hans-Böckler-Stiftung veröffentlichten Studie »Gender, künstliche Intelligenz und die Arbeit der Zukunft« von Tanja Carstensen und ­Kathrin Glanz. Es bestehe die Gefahr, dass verbreitete Diskriminierungsformen und Sexismus in der Arbeitswelt verstärkt würden, zum einen durch den Datensatz, welcher der KI in diesem Bereich zugrunde liege, und zum anderen dadurch, dass die KI durch Interaktionen weitere Diskriminierung lerne. Die Soziologinnen verweisen unter anderem auf eine Studie, die nachweist, dass Frauen schlechter bezahlte Jobs angeboten werden, wenn Unternehmen die Personalauswahl KI-unterstützt durchführen.

Und auch der Ethikrat beschreibt in seiner Stellungnahme die Gefahr von Diskriminierung als eines von zehn Querschnittsthemen, bei denen »algorithmische Systeme gesellschaftliche Stereotype und Ungerechtigkeiten reproduzieren können«. Allerdings schränkt das Gremium ein, dass dies in vielen Fällen »der Effekt von technisch-methodischen Entscheidungen, aber nicht notwendigerweise intendiert« sei. Die Diskriminierung passiere also, weil wir in einer ungleichen Gesellschaft leben und genau dies auch in der KI widergespiegelt wird. Um dies einzudämmen, fordert der Ethikrat eine »angemessene Aufsicht und Kontrolle von KI-Systemen«.

Bereits 2021, also in der vergangenen Wahlperiode, hatte die Bundesregierung in ihrem Gleichstellungsbericht ein Hauptaugenmerk auf den Bereich der Digitalisierung gelegt. Die Ergebnisse waren ernüchternd, aber die Handlungsempfehlungen liefen lediglich auf Appelle an die Techbranche hinaus, Frauen mehr zu fördern und sich diverser aufzustellen. Klar benannt wurde das Problem, dass »sich Entwicklerinnen und Entwickler und Entscheiderinnen und Entscheider vor allem an sich selbst und ihrer eigenen Erfahrungswelt (›I-Methodology‹)« orientierten. Da die Branche vor allem männlich dominiert ist, bleiben die Erfahrungen von Frauen und anderen marginalisierten Gruppen außen vor. Zwar beschrieb die damalige Bundesregierung, dass es »zahlreiche Methoden für geschlechtergerechte und diskriminierungsfreie Technikgestaltung« gebe und Diskriminierungen damit bereits eingedämmt werden könnten, bevor die Branche diverser aufgestellt ist, allerdings beließ sie es auch hier beim Appell, dass diese Anwendungen standardisiert und systematisch umgesetzt werden sollten.

Die Frage bleibt, warum ausgerechnet die Entwickler KI-gestützter Systeme ein Interesse an der Überwindung von Stereotypen und Diskriminierungsformen haben sollten. Solange sich die angemahnte Kontrolle und Transparenz nicht in gesetzgeberischem Handeln niederschlagen, bleibt es in dieser Hinsicht bei Sonntagsreden, die nichts an der alltäglichen Diskriminierung ändern.