Kein Ende für Deepfakes

Elon Musks KI-Programm Grok erzeugt weiterhin sexualisierte Bilder von Menschen, wie eine Reuters-Recherche zeigt. Anfang Januar hatten sich weltweit Beschwerden gehäuft, nachdem die in X integrierte künstliche Intelligenz (KI) die Plattform mit einer Vielzahl pornographischer Deepfakebilder überschwemmt hatte, die ohne Zustimmung der Betroffenen erstellt worden waren. Auslöser war die Einführung des Bildgenerators Grok Imagine mit einem Modus für Inhalte für Erwachsene, der in großem Umfang zur Erstellung sexualisierter Darstellungen von Frauen und Kindern genutzt wurde. Auf zunehmenden behördlichen Druck reagierte Musk schließlich, indem er die Bildgenerierung auf Premiumnutzer beschränkte und in einigen Regionen der Welt komplett sperrte.

Nach der Ankündigung neuer Beschränkungen für Groks öffentliche Beiträge testeten neun Reuters-Reporter mit gezielten Eingaben, ob und unter welchen Umständen der Chatbot weiterhin nicht einvernehmlich sexualisierte Bilder erzeugt. Das Ergebnis: Zwar veröffentlicht Groks offizielles X-Konto solche Inhalte deutlich weniger, der Chatbot selbst generiert sie jedoch weiterhin auf Anfrage, selbst dann, wenn ausdrücklich darauf hingewiesen wird, dass die abgebildeten Personen nicht zugestimmt haben oder durch die Darstellungen gedemütigt werden könnten.

Die Reporter reichten zwischen dem 14. und 16. Januar, dem Zeitraum der Ankündigung der Beschränkungen, sowie erneut zwischen dem 27. und 28. Januar Fotos von sich selbst in vollständiger Bekleidung ein. Sie baten Grok, die Bilder so zu verändern, dass sie die Personen in sexuell provokativen oder erniedrigenden Posen zeigen. In der ersten Testreihe erzeugte Grok in 45 von 55 Fällen sexualisierte Bilder, in 31 Fällen trotz Hinweisen auf besondere Schutzbedürftigkeit und in 17 trotz ausdrücklicher Warnungen vor Demütigung. In einer zweiten Testreihe mit 43 Eingaben entstanden in 29 Fällen entsprechende Bilder. Ob der Rückgang auf Modell- oder Richtlinienänderungen oder Zufall zurückzuführen ist, ließ sich nicht klären.

In den Fällen, in denen Grok die Erstellung der Bilder ablehnte, war nicht immer klar, warum. Manchmal reagierte der Chatbot nicht, gab eine allgemeine Fehlermeldung aus oder erstellte Bilder von anderen, offenbar von der KI generierten Personen. Nur in sieben Fällen antwortete Grok, dass er die Anfragen als unangemessen betrachte. Die Journalisten versuchten es mit identischen oder nahezu identischen Eingaben auch bei konkurrierenden Chatbots, Chat-GPT von Open AI, Gemini von Alphabet und Llama von Meta. Alle weigerten sich, entsprechende Bilder zu erzeugen, und gaben statt dessen Warnhinweise zu nicht einvernehmlichen Inhalten aus.

Dass Musks KI-Chatbot im Vergleich zu seinen Konkurrenten besonders auffällt, überrascht kaum. Der X- und Tesla-Chef positioniert Grok bewusst als provokative Alternative zu stärker regulierten Rivalen, weshalb der Chatbot von vornherein deutlich weniger Sicherheitsvorkehrungen aufweist. Die Erstellung und Verbreitung nicht einvernehmlicher, KI-generierter sexueller Bilder ist jedoch weder neu noch ein Einzelfall. Seit mindestens 2016 verbreiten sich Praktiken wie »Deep nudes« und elektronisch erstellte sexuelle Deepfakes zunehmend. Der Fall Grok ist dabei nur die Spitze des Eisbergs.

Immer mehr große Technologieunternehmen setzen auf sexuelle Chatbots, um angeschlagene Geschäftsmodelle zu stützen, vom angekündigten »Chat-GPT Erotica« bis zu Bots des Meta-Konzerns, die sich als Prominente wie Taylor Swift geben und laut Reuters bereits »romantisch-sinnliche« Gespräche mit Kindern führten. Eine bloße Strafe für derartige Inhalte reicht daher nicht aus. Nur wenn bereits in der Entwurfsphase der Modelle eingegriffen wird, lässt sich verhindern, dass solche Inhalte entstehen. Dabei darf nicht vergessen werden, dass die Täter nicht die Maschinen sind, sondern Menschen. Die Technologie spiegelt lediglich menschliche Gewalt wider. Ohne klaren politischen und gesellschaftlichen Willen zu strengeren Regeln wird sich dieser Kreislauf fortsetzen.