Die erste App mit KI - Jetzt bestellen!
Gegründet 1947 Sa. / So., 24. / 25. Februar 2024, Nr. 47
Die junge Welt wird von 2767 GenossInnen herausgegeben
Die erste App mit KI - Jetzt bestellen! Die erste App mit KI - Jetzt bestellen!
Die erste App mit KI - Jetzt bestellen!
Aus: Ausgabe vom 12.02.2024, Seite 2 / Inland
Big Brother in Bayern

»Der Einsatz solcher Software ist gefährlich«

Bayern: Stopp des Testbetriebs von »Vera« gefordert. Palantir-Produkt ermöglicht polizeiliches Data-Mining. Ein Gespräch mit Simone Ruf
Interview: Fabian Linder
Polizei_Software_VeR_80801511.jpg
Sollen Polizeiarbeit ersetzen: Vom Algorithmus gezogenene Verbindungen im Datenheuhaufen (München, 12.6.2011)

Der bayerische Landesdatenschutzbeauftragte, Thomas Petri, fordert vom Landeskriminalamt, den Testbetrieb einer Software der geheimdienstnahen US-Firma Palantir einzustellen. Wo­ran stört sich Petri?

Die Polizei in Bayern plant schon länger den Einsatz der Analysesoftware »Vera«, die wiederum auf Palantirs »Gotham« beruht. Momentan wird diese auch in Hessen und NRW eingesetzt. Durch eine Investigativrecherche war im Dezember bekannt geworden, dass das LKA in Bayern die Software bereits testet, und zwar mit Echtdaten. Die Diskussion dreht sich momentan darum, ob es sie überhaupt testen darf. Eine spezielle Rechtsgrundlage hat Bayern bisher noch nicht geschaffen.

Wie erklären die Verantwortlichen dann, dass »Vera« probeweise genutzt wird?

Die zuständigen Behörden beschwichtigten und wiesen bisher darauf hin, dass der Testbetrieb ausschließlich der Prüfung der technischen und fachlichen Funktionsfähigkeit des Systems sowie zur Gewährleistung der Informationssicherheit diene. Petri beanstandete das bisherige Verfahren. Das bayerische Innenministerium prüft nach unserem derzeitigen Stand seine Aufforderung.

Um was genau handelt es sich bei dieser Software?

»Vera« kann zum sogenannten Predictive Policing eingesetzt werden, also um herauszufinden, wann es wo durch wen künftig zu einer Straftat kommen könnte. Die Software gleicht aber nicht nur Daten ab und bringt diese in Verbindung, sondern kann durch die Analyse neues persönlichkeitsrelevantes Wissen erzeugen. Das ist sogenanntes Data-Mining. Deshalb ist der Einsatz solcher Software so gefährlich. Mithilfe einer Vielzahl von Abgleichschritten in der Analyse lassen sich ganze Persönlichkeits- sowie Bewegungsprofile von Personen erstellen und möglicherweise Schlussfolgerung auf ganz private Informationen ziehen. Das sind sehr weitreichende Konsequenzen. Deshalb ist eine gesetzgeberische Beschränkung der Software unbedingt notwendig.

Was droht Menschen, deren Daten so verarbeitet werden?

Ein besonderes Risiko besteht darin, dass eine Vielzahl von Daten Unbeteiligter in die Analyse einfließen. Das kann zu falschen Verdächtigungen und weiteren polizeilichen Maßnahmen führen. Wenn Sie etwa einen Fahrraddiebstahl melden, legt die Polizei einen Vorgang an. Die Daten können auch durch die Software genutzt werden. Gleiches gilt etwa für Anfragen bei der Polizei, was über die eigene Person gespeichert ist. Dadurch können Menschen, die noch nie Anlass für polizeiliche Maßnahmen gegeben haben, falschen Verdächtigungen ausgesetzt sein. Das trifft auch auf Verkehrsdaten zu: Befindet sich mein Handy in der Nähe eines anderen, für das die Polizei eine Funkzellenabfrage durchgeführt hat, hat die Polizei auch meine Verkehrsdaten. Das sind im Ergebnis riesige Mengen von Daten Unbeteiligter. Betroffene bekommen die Nutzung ihrer Daten auch gar nicht mit. Maximal, wenn daraufhin weitere Ermittlungen folgen.

Die Kritik an Polizeidatenbanken geht aber noch darüber hinaus.

Man muss sich fragen, wessen Daten überhaupt bei der Polizei vorhanden sind, wer also oft polizeilichen Maßnahmen ausgesetzt ist. Das verstärkt die Software und spiegelt die in der Polizeiarbeit inhärente Diskriminierung wider.

Gibt es Pläne über eine gesetzliche Regelung für Palantir-Produkte?

In Bayern hat die Staatsregierung bereits im Koalitionsvertrag verankert, dass eine gesetzliche Regelung kommen soll. Es bleibt die Frage, wann diese Rechtsgrundlage kommt. Zumal es bereits Einsätze in anderen Bundesländern gibt. In Hessen soll es allerdings noch Verschärfungen geben.

In welche Richtung?

Es sollen künftig auch IP-Adressen und Mautdaten einbezogen werden. Ebenso verhält es sich mit der Nutzung von künstlicher Intelligenz, die dort bisher nur teilweise ausgeschlossen ist. Darüber hinaus prüfen weitere Bundesländer, wie etwa Berlin, ob die Software eingesetzt wird. Der bundesweite Einsatz eines ähnlichen Programms ist bislang noch nicht der Fall. Da es aber Rahmenverträge mit dem Softwareunternehmen gibt, wonach Bundesländer und Bund ohne Ausschreibungen Verträge abschließen können, wird uns das auch zukünftig noch weiter beschäftigen.

Simone Ruf ist Verfahrenskoordinatorin bei der Gesellschaft für Freiheitsrechte (GFF) e. V.

Aktionspreis: Ein Monat für Sechs Euro

Schließen Sie jetzt das Onlineaktionsabo der Tageszeitung junge Welt zum unschlagbaren Preis von 6 Euro für einen Monat ab! Erhalten Sie die Onlineausgabe schon am Abend vorher auf jungewelt.de, als Fließtext oder als App.

Regio:

Hier geht es zur neuen jungen Welt-App!