»Die menschliche Aufsicht über Militär-KI erodiert«

Hinter der sogenannten künstlichen Intelligenz steckt Datenarbeit. Inwiefern trifft das auch für militärisch genutzte KI-System zu?

Die Tätigkeit der Datenannotation für militärische KI wird aktiv an Gig-Arbeiter im globalen Süden ausgelagert. Ihre Arbeit steckt in Drohnen, für die Luftbilder annotiert werden, um die Zielfindung und das Situationsverständnis der Fluggeräte zu verbessern. Sie steckt in autonomen Militärfahrzeugen, für die Geländedaten für Navigationssysteme in Konfliktzonen gekennzeichnet werden. Und sie steckt in Überwachungstechnologien: Gig-Arbeiter verarbeiten biometrische Daten wie Gesichtserkennung und Sprachanalysen, die dann zur sogenannten Grenzsicherung oder zur Gefahrenbewertung verwendet werden.

Menschliche Arbeit ist also nötig, um diese Technologien funktionsfähig zu machen. Wie steht es um die menschliche Aufsicht über diese KI-Systeme, sobald sie im Einsatz sind?

Obwohl autonome Fähigkeiten existieren, bleibt der »Human in the Loop«, also die menschliche Aufsicht, der Standard. Ein Bediener muss beispielsweise die Ziele eines Angriffs genehmigen, auch wenn das Waffensystem diese bereits ausgewählt hat. Es gibt also halbautonome Systeme. In der Ukraine wird KI etwa zur Endphasensteuerung genutzt, nachdem ein Mensch zuvor das Ziel ausgewählt hat. Ein Teil dieser Einschränkungen ist auf die Sicherheitsvorkehrungen zurückzuführen, die das Militär noch aufrechterhält.

Noch?

Es besteht eine riesige Gefahr, dass die menschliche Aufsicht über militärische KI zunehmend erodieren wird – und dass Datenarbeiter zukünftig an der Entwicklung von KI für autonome Angriffe mitwirken werden. Und das, ohne dass sie es wissen. Es ist mehr als plausibel, dass Gig-Arbeiter in fernen Ländern aufgrund undurchsichtiger Lieferketten und mangels Einblick in die Endanwendungen unwissentlich Angriffssysteme trainieren, die vollautonom einsatzfähig sind. Das kann im schlimmsten Fall dazu führen, dass gefährdete Bevölkerungsgruppen unbeabsichtigt Systeme entwickeln, die dann ihre eigenen Regionen beeinträchtigen oder gar angreifen.

Hinzu kommt das Problem sogenannter Dual-Use-Technologien. Daten, die für die Entwicklung ziviler KI annotiert werden, können sehr leicht für militärische Zwecke umfunktioniert werden. Die Erkennungssysteme in selbstfahrenden Autos können beispielsweise auch in selbstfahrenden Militärfahrzeugen angewendet werden. Solche Lücken nutzen Firmen gerne aus.

Haben Sie eine Vermutung, in welche Richtung sich militärisch genutzte KI entwickeln wird?

Ich halte es für sehr wahrscheinlich, dass Gig-Arbeiter im globalen Süden KIs für vollautonome Angriffe trainieren werden. Die Auslagerung der Annotationsarbeit in ärmere Länder spart den Firmen und Militärs erhebliche Kosten im Vergleich zur Beschäftigung von Arbeitskräften im globalen Norden. Das macht dieses Modell ökonomisch skalierbar.

Umgekehrt wird sich das mit der technologischen Verbreitung von KI-fähigen Drohnen wie der türkischen STM »Kargu« – das ist im Grunde eine Kamikazedrohne – oder den US-amerikanischen »Replicator«-Drohnen, die immer autonomer werden, noch verschärfen. Allerdings gibt es auch gegenläufige Tendenzen.

Welche gegenläufigen Tendenzen sehen Sie?

Die Einführung vollautonomer Systeme steht zumindest kurzfristig noch vor einigen Hindernissen. Wie gesagt, verlangen die Richtlinien der NATO und der USA derzeit eine menschliche Aufsicht bei tödlichen Entscheidungen. Und es gibt Probleme mit der technischen Zuverlässigkeit, da KI noch mit kritischen Grenzfällen zu kämpfen hat, etwa bei der Unterscheidung von Zivilisten in unübersichtlichen Umgebungen. Das betrifft auch zivile Technologien wie selbstfahrende Taxidienste.

Dann gibt es noch die ethischen Bedenken, dass die Auslagerung von KI-Datenarbeiten Probleme der Ausbeutung aufwirft. Die Beschäftigten verdienen nur ein paar Dollar pro Stunde, während sie traumatische Inhalte wie Aufnahmen von Schlachtfeldern bearbeiten und selbst psychische Schäden davontragen. Andererseits betreiben Unternehmen dieses Ethik-Dumping mit voller Absicht: Westliche Firmen umgehen Vorschriften, indem sie risikoreiche Arbeiten in den globalen Süden auslagern, wo es diese Vorschriften nicht gibt. Das erinnert an koloniale Ausbeutung.