»Das ist die Zerstörung von Autonomie«

Unter dem Titel »Testing Grounds« widmet sich vom 27. bis 29. November eine Berliner Konferenz des Disruption Network Lab den Gefahren der Nutzung von künstlicher Intelligenz durch Militär und Sicherheitsbehörden. Eine zentrale These lautet: Überwachungstechnologien werden zuerst an Außengrenzen und in Kriegsgebieten erprobt, bevor sie im Inland ankommen. Deckt sich das mit Ihren Erfahrungen beim US-Auslandsgeheimdienst National Security Agency, kurz NSA?

Ja. Nach dem 11. September 2001 erlebte ich bei der NSA eine entscheidende Form dieser Umkehrung: Fähigkeiten, die für die Auslandsaufklärung entwickelt worden waren, wurden nach innen gerichtet. Die Behörde nutzte Elemente eines Abhörprogramms namens »Thin Thread«, entfernte aber genau die Schutzmechanismen für die Privatsphäre, die für seinen legitimen Einsatz im Inland unerlässlich gewesen wären. Das war keine rein technische Änderung, sondern ein fundamentaler Bruch der US‑Verfassung. Ich behaupte nicht, dass jede Überwachungstechnik denselben Weg vom Schlachtfeld über die Grenze nach Hause nimmt. Aber ich erkenne eine Logik: Ausnahmebefugnisse, gerechtfertigt mit einer äußeren Bedrohung, werden im Inneren zur Normalität. Die Bevölkerung wird verdächtig: etwas, das man überwacht, klassifiziert und verwaltet – statt zu einer Bürgerschaft, deren Rechte das staatliche Handeln begrenzen.

Erkennen Sie dieses Muster heute wieder, beispielsweise beim »Predictive Policing« in Berlin, also der sogenannten vorhersagenden Polizeiarbeit?

Berlins Software »KrimPro« ist ein eigener Fall. Es ist ein raumbezogenes System zur Prognose von Wohnungseinbrüchen, das keine individuelle Schuld vorhersagt. Die Forschung zeigt aber, dass die Einführung dieser Software zentralisierte Entscheidungen begünstigt und dazu verleitet, sich auf Vorhersagen zu verlassen, die manche Einsatzkräfte nicht ausreichend verstehen. Genau hier werde ich hellhörig: wenn das Maschinenergebnis mehr institutionelle Autorität erlangt als die Belege hergeben. Meine Frage ist nicht nur, ob solche Systeme Muster erkennen, sondern ob Menschen ihre Annahmen anfechten, ihre Folgen prüfen und ihre Ausweitung verweigern können. Eine Prognose darf nie Beweise, einen individuellen Tatverdacht oder ein rechtsstaatliches Verfahren ersetzen.

Sie sprechen auch von »Privacide«. Warum so ein drastischer Begriff?

Mit »Privacide« meine ich die systematische Zerstörung von Privatsphäre und persönlicher Autonomie – nicht über einzelne Datenlecks oder lästige Eingriffe, sondern als fortschreitende Beseitigung des Raums, in dem wir als Menschen leben können, ohne ständig beobachtet und bewertet zu werden. Der Begriff ist drastisch, weil das, was für uns als Gesellschaft auf dem Spiel steht, drastisch ist. Bei Privatsphäre geht es nicht darum, Fehlverhalten zu verbergen. Es geht um die Voraussetzungen für Gewissen, Intimität, Dissens, Kreativität, Handlungsfähigkeit und Selbstbestimmung. Wird Überwachung zum Ordnungsprinzip einer Gesellschaft, drängt sie uns dazu, so zu leben, wie die Mächtigen es erwarten.

Die Gefahr ist nicht nur, was jemand über uns weiß, sondern was dieses Wissen ihm erlaubt, mit uns zu tun: unsere Entscheidungen zu beeinflussen, unsere Möglichkeiten einzuschränken, unsere Beziehungen zu kartieren und Widerspruch immer aufwändiger zu machen. »Privacide« benennt einen politischen und moralischen Prozess, keine technische Zwangsläufigkeit. Wir müssen die Prämisse zurückweisen, dass der Preis für die Teilhabe am modernen Leben ist, vollständig lesbar für Regierungen und Konzerne zu sein. Menschen sind kein Rohstoff für Vorhersage- und Kontrollsysteme.

Sie berufen sich in Ihren Warnungen auf Hannah Arendts »Banalität des Bösen«. Was hat das mit der »Kill Cloud« zu tun?

Mir geht es bei Arendt um die Preisgabe des eigenständigen moralischen Urteils. »Banal« heißt nicht, dass der Schaden gering ist. Es heißt, dass außerordentlicher Schaden durch gewöhnliche Routinen möglich wird – durch Karriereanreize, Verwaltungsgehorsam und die Weigerung, ernsthaft darüber nachzudenken, was man tut.

Die »Kill Cloud«, ein Begriff der US-Whistleblower Lisa Ling und Cian Westmoreland, ist der Rahmen, mit dem diese Konferenz die wachsende Verflechtung von digitaler Infrastruktur und Kriegführung untersucht. Meine Sorge ist die Zersplitterung der Verantwortung in dieser Maschinerie. Einer verarbeitet Daten, ein anderer entwickelt ein Modell, ein dritter wartet die Infrastruktur, ein vierter genehmigt einen Einsatz. Jeder kann auf seine begrenzte Aufgabe verweisen und den realen Folgen des Ganzen ausweichen.

Hier wird Arendts Warnung sehr dringlich: Technische Kompetenz ist keine moralische Legitimität. Auch ein effizienter Prozess kann einem unmenschlichen Zweck dienen. Weder »Ich habe mich an das Verfahren gehalten« noch »Das System hat es empfohlen« oder »Ich habe nur Befehle befolgt« entbindet uns von unserem Urteil.

Foto: IMAGO/Newscom World

Thomas Drake im Dezember 2014 in Glenwood, USA

Ich setze nicht jeden Ingenieur oder Analysten mit einem historischen Täter gleich. Aber Distanz, Spezialisierung und Automatisierung dürfen nie zur Ausrede für Mittäterschaft werden. Der Mensch am anderen Ende darf nicht hinter einer Klassifizierung, einem Wahrscheinlichkeitswert oder einer Zielmarkierung verschwinden.

Früher lag Überwachung bei Behörden und Militärs, heute immer mehr bei Konzernen wie Palantir. Wird es dadurch leichter oder schwerer, Missbrauch aufzudecken?

Unterm Strich schwerer. Doch die Prämisse stimmt nicht ganz: Staatliche Überwachung war schon zu meiner NSA-Zeit eng mit privaten Auftragnehmern verflochten. Mein Whistleblowing betraf unter anderem das Projekt »Trailblazer«, ein von Verschwendung und Korruption geprägtes Milliardengrab, sowie das ursprünglich »Stellar Wind« genannte Programm zur Überwachung ohne richterlichen Beschluss. Wir erleben also keinen Übergang von staatlicher zu privater Überwachung, sondern die Vertiefung einer bestehenden Beziehung.

Die zentrale Gefahr ist geteilte Verantwortung. Die Behörde sagt, sie handle im Rahmen ihrer gesetzlichen Befugnisse. Der Anbieter sagt, er liefere nur Software. Palantir betonte nach dem Urteil des deutschen Bundesverfassungsgerichts 2023, man liefere Software zur Datenverarbeitung, nicht die Daten selbst. Zwischen diesen Positionen tut sich eine Rechenschaftslücke auf: Wer steht dann für das Gesamtsystem und seine Folgen ein?

Es gibt aber Ansatzpunkte für Kontrolle: Verträge, Gesetzgebung, öffentliche Vergaben, Gerichtsverfahren und Aussagen von Beschäftigten. Das Verfassungsgericht hat gezeigt, dass diese Systeme angreifbar sind: Die Vorschriften zur automatisierten Datenanalyse der Polizei in Hessen und Hamburg verletzten das Recht auf informationelle Selbstbestimmung. Das war ein Urteil über die gesetzlichen Befugnisse, kein pauschales Verbot einer Unternehmenssoftware.

Meine Position ist klar: Die öffentliche Macht kann ihre Verantwortung nicht auslagern. Und Geschäftsgeheimnisse dürfen keine ernsthafte Prüfung von Technologien verhindern, mit denen ohne Zustimmung der Betroffenen Zwang, Autorität und Überwachung ausgeübt werden.

Die USA haben das italienische Aktivistenkollektiv Autistici/Inventati sanktioniert. Geraten nach Whistleblowern nun auch die Werkzeuge für digitalen Aktivismus ins Visier?

Ja. Damit geraten die Anbieter von Kommunikationsinfrastruktur direkt ins Fadenkreuz. Am 26. August 2026 sanktionierte das US-Finanzministerium das Kollektiv auf Grundlage von Antiterrorbefugnissen, mit dem Vorwurf, es habe Terrorismus technologisch unterstützt, unter anderem durch Dienste für die PKK. So begründet es die Regierung. Eine unabhängige, gerichtliche Feststellung, die die Vorwürfe belegt, ist die Listung aber nicht.

Wir müssen die gezielte Unterstützung von Gewalt von der Bereitstellung vertraulicher Kommunikation unterscheiden. Verschlüsselung, Hosting und vertrauliche Kommunikation sind für sich genommen kein Beleg für Terrorismus. Meine Sorge ist, dass diese Unterscheidung politisch verzichtbar wird, wenn Behörden eine ganze Infrastruktur über ihre mutmaßlichen Nutzer oder Verbindungen definieren können. Die Folgen gehen über eine öffentliche Anschuldigung hinaus: Die Sanktionierung friert betroffene Vermögenswerte ein und verbietet US-Personen Geschäfte mit dem Kollektiv, sofern keine Genehmigung oder Ausnahme greift.

Ich sehe eine gefährliche mögliche Entwicklung: Zuerst nimmt man diejenigen ins Visier, die Missstände aufdecken, dann schwächt man die Kanäle, über die Menschen unabhängig kommunizieren, sich organisieren und publizieren. Nicht hinter jeder Maßnahme steht dasselbe Motiv, aber ich warne vor diesem Trend. Unsere Antwort muss beides verteidigen: Rechenschaft für tatsächliche Gewalt einerseits, und andererseits die Rechte, die Zivilgesellschaft erst möglich machen, also Beweise, rechtsstaatliche Verfahren, Verhältnismäßigkeit und Vereinigungsfreiheit. Die Zukunft der Menschheit lässt sich nicht absichern, indem man unabhängiges Handeln zum Feind erklärt.