EU-Parlament beschließt KI-Gesetz

Das KI-Gesetz ist da. Das EU-Parlament hat am Mittwoch in Strasbourg mit einer deutlichen Mehrheit für den im Februar von den EU-Staaten beschlossenen, abgeschwächten Gesetzestext zur Begrenzung bestimmter Systeme künstlicher Intelligenz (KI) gestimmt. Die damit beschlossene Verordnung werde »Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen schützen«, hieß es in einer Mitteilung. Gleichzeitig solle das Gesetz »Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt«, hieß es weiter. Die EU-Staaten müssen das Gesetz nun in den kommenden 24 Monaten umsetzen.

KI-Systeme, die biometrische Daten auswerten können, werden eingeschränkt. Auch solche, die »ungezielt« per Gesichtserkennung, etwa aus dem Internet oder von Überwachungskameras, Datenbanken anlegen. Die Erkennung von Emotion in Schulen und Betrieben »sowie das Bewerten von sozialem Verhalten mit KI« solle verboten sein, teilte das Parlament mit. Auch sollen Systeme, die das Verhalten von Menschen beeinflussen »oder ihre Schwächen auszunutzen« können ebenso wie »vorausschauende Polizeiarbeit, die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht«, verboten sein.

Die Erfassung biometrischer Daten im öffentlichen Raum soll Behörden und Polizei aber grundsätzlich erlaubt sein, wenn auch unter »strengen Sicherheitsbestimmungen«. Nötig sei eine »spezielle behördliche oder gerichtliche Genehmigung«, etwa um nach einer vermissten Person zu suchen »oder einen Terroranschlag zu verhindern«. Zur nachträglichen Fernidentifizierung brauche es eine gerichtliche Genehmigung, die »mit einer Straftat in Verbindung stehen« müsse. »Hochriskante« KI-Systeme, die im Gesundheits- oder Bankwesen, »in bestimmten Bereichen der Strafverfolgung sowie im Zusammenhang mit Migration und Grenzmanagement, Justiz und demokratischen Prozessen« genutzt werden können, sollen nach Beschluss des EU-Parlaments also künftig »von Menschen beaufsichtigt« werden müssen.