So droht ein typischer EU-Deal

Das schärfste Schwert im Gesetzentwurf der EU zur Nutzung künstlicher Intelligenz, dem »AI Act«, ist die »Anhang-III-Liste«. In dort aufgeführten Bereichen soll der KI-Einsatz (englisch Artificial intelligence) generell als hochriskant betrachtet werden. Daraus ergeben sich zahlreiche Pflichten für Entwickler und Anwender, etwa bezüglich Risikobewertung und Dokumentation. Zudem sind spezifische Prüf- und Zulassungsverfahren sowie Auflagen zur Sicherstellung der Datenqualität vorgesehen. Die KI darf in diesen Bereichen keine Entscheidungen treffen, und sollte jemand zu Schaden kommen, greifen spezifische Haftungsregeln. Im Zweifelsfall gibt es üppige Straf- und Schadenersatzzahlungen.

Entsprechend steht Anhang III im Zentrum der Lobbybemühungen europäischer Digitalverbände und US-amerikanischer Tech-Konzerne zur Aushöhlung der Verordnung. Offenbar nicht ohne Erfolg. Denn so unterschiedlich die Positionen von Parlament und Rat zu vielen Aspekten des Gesetzes sind: Einigkeit besteht mittlerweile darin, dass die ursprünglich von der Kommission vorgelegte Hochrisikoliste zurechtgestutzt werden muss. So besteht etwa der Rat darauf, KI-Systeme in Bereichen wie Grenzschutz oder Strafverfolgung unreguliert zuzulassen – die Militär-KI wurde eh von vornherein ausgeklammert – und will auch bei den Vorschriften zur biometrischen Überwachung weniger strikt vorgehen als die Kommission.

Das EU-Parlament plädiert derweil dafür, die Dienste großer Onlinekonzerne wie Amazon oder Microsoft von der Hochrisikoliste zu nehmen und den Jugendschutz zu schleifen. Auch beim KI-Einsatz in der Arbeitswelt und im Bildungswesen wollen die Abgeordneten mehr regulatorische Zurückhaltung. So soll beispielsweise die KI nicht gänzlich aus den Personalabteilungen verbannt werden, sondern dort lediglich keine Entscheidungen treffen dürfen. Assistieren darf sie aber durchaus. Im Bildungsbereich soll die KI etwa dann nicht mehr als hochriskant eingestuft werden, wenn ihr Einsatz darauf abzielt, Bildungsangebote zu personalisieren. Für generative KI wollen die zuständigen Berichterstatter die Hochrisiko-Einstufung durch neue Kriterien erschweren.

Die Kommission wiederum dürfte im Trilog mit EU-Parlament und -Rat vor allem darauf drängen, möglichst viel Einfluss in die eigenen Hände zu bekommen. So wurde mit Blick auf die hohe Schlagzahl bei der Entwicklung neuer KI-Tools vorgeschlagen, die Kommission zu befugen, künftig eigenständig die Bereichsliste aus Anhang III zu erweitern – oder Streichungen vorzunehmen. So wäre ein dauerhaftes Einfallstor für Unternehmen und Wirtschaftsverbände geschaffen, um profitschädigende Listungen wegzulobbyieren. Deutlich wurde zuletzt im Rahmen einer Untersuchung bestehender Anwendungen durch die Initiative »applied AI« auch, dass die Abgrenzung der Hochrisikokategorie große Interpretationsspielräume lässt und die Kommission dazu neigt, Grenzfälle als risikoarm einzusortieren.

So droht ein typischer EU-Deal, bei dem die Kommission mehr Macht und ansonsten jeder seine Lieblingsausnahmen bekommt. Letztlich würde nur das beschlossen werden, was keiner einflussreichen Interessensgruppe weh tut. Dann stünde am Ende trotz des recht ambitionierten Auftakts vor zwei Jahren eine wirkungslose KI-Regulierung. Erinnerungen an das erste große Digitalgesetz der EU, das kommende Woche seinen fünften Geburtstag feiert, werden wach: die Datenschutzgrundverordnung. Diese enthält zwar viele gute Regeln – allerdings kombiniert mit schlechten Durchsetzungsmechanismen, weswegen sie nicht annähernd die von vielen Datenschützern erhoffte Wirkung entfalten konnte.