Deepfakes und Desinformationen

Ein Thema hat bei dem ersten großen TV-Duell zwischen dem amtierenden Präsidenten Luiz Inácio Lula da Silva und Herausforderer Flávio Bolsonaro am Sonntag abend (Ortszeit) keine Rolle gespielt: Vor der brasilianischen Stichwahl am kommenden Sonntag verstärken Zahlungen aus dem Umfeld des ultrarechten Präsidentschaftskandidaten Bolsonaro an die Cybersicherheitsfirma Elytron den Verdacht auf illegale Einflussnahme. Laut einer am Freitag veröffentlichten Recherche des Portals The Intercept Brasil soll das Wahlkampfteam des Senators umgerechnet gut 100.000 Euro an das Unternehmen mit Sitz in São Paulo überwiesen haben, dem der Verkauf KI-gestützter Systeme zur Manipulation von Wahlen vorgeworfen wird. Die Informationen stammen offenbar aus dem Umfeld der Firma selbst. Nach der am vergangenen Mittwoch beim Obersten Wahlgericht (TSE) eingereichten Beschwerde gegen den US-Technologiekonzern Meta ist die am Freitag veröffentlichte Enthüllung der bislang schwerste Vorwurf gegen den von Washington unterstützten Kandidaten der Liberalen Partei (PL).

Wie aus dem Bericht von The Intercept Brasil hervorgeht, dem nach eigenen Angaben entsprechende Dokumente vorliegen, soll neben Bolsonaros Team auch seine Partei weitere 23.000 Euro an Elytron gezahlt haben. Nach offizieller Version erfolgten die Zahlungen für »IT-Beratung«, »Sicherheitstests« sowie »Infrastrukturüberwachung«. Die Dokumente, die der US-Technologe Vincent Edward Reed dem Onlineportal übergeben hat, würden daran jedoch Zweifel wecken. Ein vor zwei Jahren in den USA unterbreitetes Angebot des Unternehmens soll tatsächlich die Erfassung großer Datenmengen und die Identifizierung von Wählergruppen umfasst haben, um »Maßnahmen« wie die Verbreitung von Gerüchten und Falschinformationen, die Erstellung gefälschter Konten in sozialen Netzwerken sowie den Einsatz von Techniken der psychologischen Kriegführung und Infiltration durchzuführen, mit denen Gegner diskreditiert werden.

Reed, der angibt, zwischen 2024 und 2025 als Berater für Elytron tätig gewesen zu sein, erklärte, in Präsentationen sei der Begriff »Manipulation« gefallen. Ein Diagramm, das er weitergab, liest sich laut Beatriz Farrugia von der auf Onlinedesinformationen spezialisierten litauischen NGO Debunk wie ein »Handbuch für Informationskriege«: politisches Ziel, operatives Ziel, Methode – von Infiltration über Desinformation bis »Meinungssteuerung« –, Verbreitung via Blogs, soziale Netzwerke und Presse, bis hin zu Deepfakes.

Dem Bericht zufolge trennte sich Reed aus »ethischen Bedenken« von Elytron, da das System des Unternehmens »Wähler attackierte und diese mit KI-Deepfakes angreifen konnte«. Die Zahlungen von Bolsonaros Wahlkampfteam an Elytron hätten ihn dann veranlasst, sich an The Intercept Brasil zu wenden. Das Portal wies darauf hin, dass es keine Beweise dafür habe, dass das von Reed kritisierte System tatsächlich durch Bolsonaro oder die PL zur Manipulation der aktuellen Wahlen eingesetzt wird.

Elytron behauptete nach der Veröffentlichung, erst durch Medienberichte von Reeds Existenz erfahren zu haben. Das Unternehmen habe »zu keinem Zeitpunkt Kontakt, Beziehungen oder irgendeine Art von geschäftlicher Verbindung zu ihm« gehabt, heißt es in einer Erklärung. Dass es an Bolsonaros Kampagne beteiligt sei, bestritt das Unternehmen gegenüber The Intercept Brasil zwar nicht, es behauptete aber, dass die Kooperation lediglich »einen präventiven Zweck habe und auf Cybersicherheit, Kommunikationssicherheit, die Wahrung der Vertraulichkeit von Informationen sowie den Schutz der technologischen Infrastruktur der Auftraggeber ausgerichtet« sei.

Das Portal blieb indes – unter Verweis auf ihm vorliegende Dokumente – dabei, dass das Ziel des Systems weit über solche IT-Dienstleistungen hinausgehe. Die Unterlagen, die Reed der Redaktion zur Verfügung stellte, würden ein System beschreiben, das große Datenmengen verknüpft, Wählergruppen profiliert und Kommunikationsmaßnahmen zur Steuerung öffentlicher Meinungen zielgenau ausrichtet. Die bloße Beauftragung eines dem rechten Sektor verbundenen Unternehmens, das derartige Dienste anbietet, ist kurz vor der entscheidenden Stichwahl alles andere als ein harmloser Vorgang.