3 Monate jW-digital für 18 Euro
Gegründet 1947 Mittwoch, 31. Mai 2023, Nr. 124
Die junge Welt wird von 2709 GenossInnen herausgegeben
3 Monate jW-digital für 18 Euro 3 Monate jW-digital für 18 Euro
3 Monate jW-digital für 18 Euro
Aus: Ausgabe vom 19.05.2023, Seite 3 / Schwerpunkt
Künstliche Intelligenz

Die überholte Regulierung

Künstliche Intelligenz: EU-Gesetzgebung hinkt technologischer Entwicklung hinterher. Kapitalinteressen sorgen für Verwässerung des Entwurfs
Von Sebastian Edinger
imago0246457380h.jpg
»Müssen wir KI regulieren?« – »Verbindung zum Server gescheitert«; GBT-Chatbot Pepper auf Gut Kaltenbrunn am Tegernsee, Mai 2023

Die rasanten technologischen Fortschritte seit dem Launch von Chat-GPT im November erhöhen den Druck, die Nutzung der künstlichen Intelligenz zu regeln. In der vergangenen Woche hat die EU auf ihrem langen Weg zu einem Gesetz zur Artificial Intelligence (AI), kurz: »AI Act«, eine Hürde genommen: Das eigens für diesen Rechtsakt gebildete Komitee der Ausschüsse für Binnenmarkt und bürgerliche Freiheiten des EU-Parlaments hat sich auf eine gemeinsame Position verständigt. Vorausgegangen waren schier endlose, zähe Verhandlungen. Allein bis mit der Einrichtung des federführenden Doppelausschusses das Gerangel um die Zuständigkeit beendet werden konnte, vergingen Monate.

Der ursprüngliche Entwurf der Kommission datiert vom April 2021, der Europäische Rat hat sich im Dezember 2022 positioniert – zumindest vorläufig, denn insbesondere die deutsche Regierung hadert mit den Kompromissen und behält sich weitere Eingaben vor. Im Parlament soll über die Vorlage des Sonderausschusses Mitte Juni im Plenum abgestimmt werden. Danach könnten die Verhandlungen zwischen den drei EU-Institutionen beginnen – und sollten möglichst in einem halben Jahr über die Bühne gebracht werden, sonst beginnt angesichts der bevorstehenden EU-Wahlen eine lange Stillstandsphase, bis im Herbst 2024 das neue Parlament und die neue Kommission konstituiert sind und die Arbeit aufnehmen.

Sollten sich die Verhandler tatsächlich bis zum Jahresende auf einen finalen Rechtstext einigen können, beginnt eine zwei- bis dreijährige Umsetzungsphase. Neue Behörden werden aufgebaut, Prüf- und Kontrollverfahren installiert, KI-Entwickler richten sich auf die neuen Regeln ein – und werden dabei mit großzügigen Fristen und freundlicher Beratung unterstützt. Im Idealfall nimmt der politische Prozess von der Veröffentlichung des ersten Entwurfs bis zum Inkrafttreten der Verordnung also rund fünf Jahre in Anspruch. Das ist nicht ungewöhnlich, und die EU hat noch immer die Chance, damit im politischen Westen zum Vorreiter zu werden. Dennoch ist die Behäbigkeit ein Problem, denn nach einer halben Dekade des technischen Fortschritts ist KI eine völlig andere Technologie.

So ging es zu Beginn stark um Themen wie Fehlentscheidungen durch KI-Systeme und algorithmische Diskriminierung: Wenn jeder seinen Müll im Internet ablädt, wird die KI mit viel Müll gefüttert, und diskriminierende Gesellschaften produzieren diskriminierende (Trainings-)Daten. Ein leicht überstrapaziertes Beispiel: Seit 1949 gab es in der BRD mehr Staatssekretäre mit dem Vornamen Hans als Staatssekretärinnen. Eine KI könnte zu dem Schluss kommen, »Hanse« seien für den Job besser geeignet als Frauen. Im »AI Act« wird das Personalwesen daher der Hochrisikokategorie zugeordnet, in der die Nutzung der Technologie relativ streng reguliert werden soll.

Dieser Ansatz zieht sich durch den gesamten Rechtsakt: KI-Tools werden je nach Anwendungsgebiet einer von vier Risikokategorien zugeordnet und entsprechend streng reguliert: Wo mit der KI-Nutzung kein oder nur ein geringes Gefahrenpotential gesehen wird, greifen keine oder nur wenige Vorschriften. Als hochriskant gilt die Nutzung der Technologie neben dem Personalwesen unter anderem im Bildungsbereich, bei kritischer Infrastruktur oder in der Strafverfolgung. Hier greifen für Entwickler und Anwender viele Regeln, etwa bezüglich Zulassung, Datenqualität, Transparenz und menschlicher Aufsicht. Die vierte Kategorie sind unannehmbare Risiken, hier ist die Anwendung von KI verboten, etwa bei biometrischer Überwachung in Echtzeit im öffentlichen Raum – das sollen nur Private dürfen, staatliche Behörden dürfen die Daten aber nachträglich auswerten.

Doch seit 2021 hat sich in den Entwicklerstuben viel getan: Spezifische, für einen konkreten Einsatz bestimmte Systeme verlieren an Bedeutung, »General Purpose AI« dominiert. Da geht es insbesondere um große Sprachmodelle und darauf basierende, generative Anwendungen wie Chat-GPT. Die können für simple Recherchen völlig risikofrei genutzt werden – oder für umstürzlerische Desinformationskampagnen, Cyberattacken und sonstigen hochriskanten Schabernack. Das passt nicht zum risikobasierten Ansatz des »AI Acts«. Und bis dieser in einigen Jahren endgültig in Kraft tritt, dürften auch diese Problemstellungen wieder veraltet sein.

Dabei ist der Faktor Zeit bei der Überwindung der Wildwestverhältnisse im KI-Sektor nicht das einzige Problem: Ein relevanter Teil der politischen Funktionselite ist weniger von der Sorge um drohende Ungerechtigkeiten und Menschenrechtsverletzungen getrieben, sondern stärker von jener um die Wettbewerbsfähigkeit des Standorts im Rennen um die Marktbeherrschung. In der deutschen Regierung ist es vor allem die FDP, die sich gegen strenge Regeln stellt und aus der KI-Verordnung ein Werkzeug der Innovationsförderung machen will. Denn bislang kommen fast alle relevanten Modelle aus den USA oder China, die EU ist im Hintertreffen.

Nicht nur in der BRD sind ernsthafte KI-Regeln schwer gegen dominante Kapitalinteressen durchsetzbar. In der Gesamtschau zielt die Position des Europäischen Rates darauf ab, die Vorlage der Kommission zu verwässern, etwa durch eine engere KI-Definition und damit durch eine geringere Reichweite. Oder durch eine kürzere Hochrisikoliste und damit weniger Bereiche, in denen umfassend reguliert wird. Oder durch schwächere Kontrollbehörden in den Mitgliedstaaten.

Hintergrund: »Tiefgreifende ­Risiken«

Lange sah es so aus, als wäre die Angst vor einer »umfassenden KI«, die zur Gefahr für unsere Spezies werden könnte, nichts als Stoff für Science-Fiction-Autoren. Doch mit dem Launch von Chat-GPT im November wurde deutlich, was Künstliche Intelligenz schon kann und vor allem, wie rasant sie sich entwickelt. Die mittlerweile vielen bekannte Anwendung basiert auf GPT-3. GPT-4 ist bereits auf dem Markt und in vielerlei Hinsicht deutlich besser. Experten sind sich einig, die Technologie ist disruptiv. Und viele mahnen, mit der nächsten oder übernächsten Version könnte es eng werden für den Menschen, wenn das Ganze nicht in geregelte Bahnen gelenkt wird.

Ende März veröffentlichten KI-Entwickler aus aller Welt einen offenen Brief und forderten ein mindestens sechsmonatiges Moratorium für die Entwicklung von KI-Systemen, die über das Niveau von GPT-4 hinausgehen. »KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen«, heißt es da. Dies sei wissenschaftlich belegt. Die weitere Entwicklung solle daher gestoppt werden, bis die politisch Verantwortlichen einen geeigneten regulatorischen Rahmen aufgebaut haben. Mittlerweile wurde der Text von mehr als 27.000 Menschen unterzeichnet.

Derweil plädierten einige konservative, liberale, rechte, grüne und sozialdemokratische Abgeordnete des EU-Parlaments in einem weiteren offenen Brief gemeinsam für ein globales Gipfeltreffen, um sich auf Leitprinzipien für Entwicklung, Kontrolle und Einsatz leistungsfähiger KI-Systeme zu verständigen. Einberufen sollen dieses US-Präsident Joseph Biden und die Präsidentin der EU-Kommission, Ursula von der Leyen. Bislang scheint allerdings weder der eine noch der andere Brief von den politischen Funktionseliten beherzigt zu werden. Die Entwicklung neuer, besserer KI-Tools geht erst mal ungebremst und unreguliert weiter.

Sebastian Edinger

Onlineaktionsabo

Das Onlineaktionsabo der Tageszeitung junge Welt bietet alle Vorteile der gedruckten Ausgabe zum unschlagbaren Preis von 18 Euro für drei Monate. Das Abo endet automatisch, muss also nicht abbestellt werden. Jetzt Abo abschließen und gleich loslesen!

  • Leserbrief von Istvan Hidy aus Stuttgart (19. Mai 2023 um 15:54 Uhr)
    Ich habe die KI gefragt, was ist seine Meinung darüber, dass schon Platon und Aristoteles die Demokratie als das ungläubigste, das dysfunktionalste aller möglichen Systeme hielten. Nach Mark Twain: »Wenn Wahlen irgendeine Bedeutung hätten, würde man uns nicht erlauben, sie abzuhalten.« Es ist ein kindischer Mythos, dass bei freien Wahlen die freien Bürger frei entscheiden können. Tatsächlich können sie nur entscheiden, was sie dürfen. Sie erkannte zwar die Frage als akzeptabel, aber sie konnte mir nicht richtig beantworten. Was ist eure Meinung dazu?
  • Leserbrief von Onlineabonnent/in Heinrich H. aus Stadum (19. Mai 2023 um 00:25 Uhr)
    Zum x-ten Male: Es gibt keine künstliche Intelligenz (es gibt keinen Algorithmus, der einen Algorithmus entwickelt). Es ist fraglich, ob es eine natürliche gibt (wenn es die gäbe, würde sie keine KI-Algorithmen entwickeln, auch nicht Wasserstoffbomben), aber das ist Nebensache. Allerdings hat die sogenannte KI ein gewisses Potential zur disruptiven Technologie. Das haben »neue« Technologien so an sich. Ob von der atmosphärischen zur Verbunddampfmaschine mit Fliehkraftregler oder von der Kathodenstrahlröhre zum CMOS-Schaltkreis: Was »am Schluss« ’rauskommen würde, hat bei der Erfindung und Weiterentwicklung keiner geahnt. Dass »dominante Kapitalinteressen« sich durchsetzen werden, steht außer Zweifel. Jedenfalls so lange die bestehenden Machtverhältnisse weiter bestehen bleiben (da war doch was mit der idellen Gesamtkapitalist*:!I!:*n). Das Thema »KI« wird auch eine Nagelprobe auf die Frage sein, ob China »sozialistisch« oder »kapitalistisch« ist …

Regio:

Mehr aus: Schwerpunkt

Startseite Probeabo