Die Aufmerksamkeitsökonomie hat wieder zugeschlagen: Ein prominenter Fall von sexualisierter Gewalt und Übergriffigkeit im digitalen Raum an einer Frau hat die gläserne Decke durchbrochen – was zu begrüßen ist. Ob Spontankundgebungen – die am Sonntag konnte nach Veranstalterangaben 13.000 Menschen vor das Brandenburger Tor in Berlin mobilisieren – und die Solidarisierung mit der Schauspielerin Collien Fernandes etwas gegen die Folgen alltäglich reproduzierter Misogynie und der sexualisierten Darstellung von Frauenkörpern ausrichten können ist fraglich.

Im »Fall Collien Fernandes«, wie etwa die Süddeutsche Zeitung Anfang der Woche – in bewährter Markierung der Betroffenen – einen entsprechenden Artikel auf Seite eins ankündigte, geht es um gefälschte Social-Media-Accounts mit explizit sexuellen Inhalten, die Erstellung und Verbreitung sogenannter Deepfakepornos bis hin zu Sexchats, die in ihrem Namen geführt wurden: seit Jahren wohlgemerkt. Was für den aktuellen Aufruhr sorgt, ist die Erkenntnis, dass für einen Teil dieser Taten ihr Exmann Christian Ulmen verantwortlich sein soll, den Fernandes nun angezeigt hat. Aber auch, dass das unmittelbare Umfeld sowie das eigene Zuhause die gefährlichsten Orte für Frauen darstellen, ist keine Neuigkeit, sondern bittere Realität. Parallel zum öffentlichen Aufschrei wurde etwa in Niedersachsen der neunte Femizid des Jahres dokumentiert. Montag nacht wurde eine Frau in Barsinghausen von ihrem Ehemann getötet, eine 13jährige Tochter schwebt in Lebensgefahr. Eine für Sonntag angekündigte Demonstration dürfte um einiges kleiner ausfallen als die Zusammenkünfte in Solidarität mit Fernandes.

in der Öffentlichkeit stehende Frauen jetzt eine Verschärfung des Strafrechts, unter ihnen zahlreiche Musikerinnen und Schauspielerinnen bis hin zu Bärbel Bas. Die Arbeitsministerin fordert sich als Mitglied der Bundesregierung also selbst zum Handeln auf. Auch die Forderung nach einer Klarnamenpflicht im Internet erhält durch die Debatte Aufwind. Diese reflexhaften Rufe zur Strafrechtsverschärfung – so richtig einzelne Maßnahmen auch sein mögen – gehen am eigentlichen Kern des Problems vorbei.

Natürlich braucht es eine spezialisierte Justiz und Regulierungspflichten für Plattformen, und zwar aus zwei Gründen: Einerseits, damit Betroffene nicht weiterhin abgewiesen werden, weil ihnen zwar Gewalt angetan wurde, das Strafrecht aber weit hinter der digitalen Realität hinterherhinkt. Andererseits, weil Gewalttaten, die mehrheitlich Frauen widerfahren, ohnehin als schwer beweisbar eingestuft werden, man denke nur an sexualisierte Gewalt auch in der Partnerschaft oder Ehe sowie beim Stalking. Vor allem aber ist es nötig zu erkennen, dass digitale Anwendungen, die zur Fälschung von Pornobildern von Frauen genutzt werden, zum Beispiel Nudifier-Apps oder Chat-GPT, alles andere als neutral sind. Die frauenfeindlichen Ergebnisse solcher Software sind keine Fehler, die einzig an ihren misogynen Nutzern festzumachen sind.

Die in Rostock lehrende Informatik-Professorin Alke Martens, die seit 30 Jahren zu künstlicher Intelligenz forscht und ihre Erkenntnisse für die breite Masse in kurzen, verständlichen Onlinevideos auf Instagram verbreitet, sagt: »Künstliche Intelligenz wird überwiegend von weißen Männern entwickelt – früher vor allem von älteren, heute eher von jüngeren. Entsprechend reproduziert sie bestehende Machtverhältnisse: KI ist rassistisch und weist einen erheblichen Gender-Bias auf.« Hinzu kommt, dass die Geldgeber, also die Menschen, denen die Ergebnisse gefallen müssen, den Entwicklern extrem ähnlich sind – finanziell allerdings noch besser aufgestellt. Diese Männer sehen sich, ihre Erlebnisse und Bedürfnisse als den Standard an, an dem ihre Anwendungen orientiert und für den sie ausgelegt sein müssen.

Diese Diskriminierung geschehe, wie Martens in mehreren Aufsätzen und Interviews dargelegt hat, nicht mal aus Böswilligkeit. Personen in dermaßen homogenen Gruppen hätten einfach kein Bewusstsein dafür, dass es andere Lebensrealitäten gebe. Problembewusstsein darüber finde man jedoch nicht innerhalb dieser Blase, lediglich etwa bei Nichtregierungsorganisationen, die KI kritisch begleiten. Den Unternehmen geht es wiederum um rein wirtschaftliche Interessen, denen ethische Fragen dabei nur in die Quere kommen. Dabei ließe sich das Problem alleine durch diversere Entwicklungsteams zumindest in Teilen beheben. Martens verweist zudem darauf, dass KI-Systeme darauf ausgelegt sind, Kontrolle herzustellen – »demgegenüber stehen Erfahrungen, die sich jeder Form von Kontrolle entziehen. Eine Geburt zum Beispiel«, wie sie am 11. März im Interview mit Edition F erläuterte.

So bleibt es bei diesem Anfangsfehler, der sich immer weiter verstärkt, denn jedes Modell kann nur genau die Ergebnisse ausspucken, mit denen es trainiert wurde. Die Modelle sind nicht intelligent, sondern können lediglich vorhersagen, mit welcher Wahrscheinlichkeit ein bestimmtes Bild oder ein bestimmter Text die gewünschte Reaktion auf eine Anfrage ist. Dabei ist die Studienlage seit Jahren eindeutig: Frauen werden zum Beispiel auf Bildern vor allem jung und normschön dargestellt, Männer beruflich erfolgreich. Der Schritt von diesem sexistischen Bias hin zu Funktionen auf großen sozialen Plattformen wie X, die letztlich der Verbreitung eben dieser Bilder – bis hin zu deren sexualisierter Darstellung – dienen, ist winzig und leider auch logisch. Überlegungen, diese Unternehmen einzuhegen, sind in der laufenden Debatte eher nachrangig zu hören, bis dahin sind die entscheidenden Fehler ohnehin schon gemacht.