Neue Waffen der Konkurrenz

KI-Programme lassen sich mit einer riesigen und ständig zu erweiternden Datenbasis darauf trainieren, einen aufgabenspezifisch ausgewählten Datensatz so zu bearbeiten, dass sie ihm vom Programmierer vorgegebene Etikettierungen mit hoher Treffsicherheit zuordnen oder aus ihm einen anderen, statistisch korrespondierenden Datensatz generieren. Das ist sie dann schon, die neue Universaltechnologie, mit der sich menschliche Tätigkeiten automatisieren lassen, die bisher unter die Kategorie »Kopfarbeit« fielen, jedenfalls ein bewusstes und entscheidendes Subjekt voraussetzten. Schier grenzenlos scheint die Anwendbarkeit der Technik, die Tätigkeiten ersetzt, die Erkennen, Verstehen und Entscheiden einschließen.

Indem sie anwendbar ist auf Handel und Produktion, Verkehrswesen, Auskunfteien aller Art, Medizin, Finanzwesen, Staatsverwaltung, Rechtsprechung und Kriegführung, zeigt die KI-Software, aus wie viel Schematismus, stumpfsinniger Regelbefolgung und routinemäßigem Einsortieren von Fällen in fertige Schubladen die intelligenten Tätigkeiten bestehen, auf denen die Leistungsfähigkeit einer modernen Nation beruht – von der Produktivität ihrer Wirtschaft über die Effizienz ihrer staatlichen und gesellschaftlichen Einrichtungen bis hin zu ihrer militärischen Potenz.

Die geplanten oder schon installierten Anwendungen dieser Sorte Software zeigen aber auch, wem sie wozu nützt. Abgesehen von den schon alltäglich gewordenen kleinen in Handys verbauten Helfern und Assistenzsystemen für Autos erfahren die normalen Bürger den Fortschritt überwiegend als Gefahr: Die Automatisierung aller möglichen intelligenten Arbeiten bedroht die Erwerbsquellen von Millionen. Sie ist ein Instrument des Kapitals zur Verbilligung des Faktors Arbeit, d. h. zur weiter fortschreitenden Trennung der lohnarbeitenden Menschheit vom Reichtum, den dieses Kollektiv erzeugt, und eines der politischen Herrschaft auf diversen Feldern der Verwaltung, Überwachung und Kontrolle der Gesellschaft sowie ihrer Machtentfaltung nach außen.

Rationalisierung der Produktion

Dem unersättlichen Bedarf der kapitalistischen Industrie, die Herstellungskosten ihrer Erzeugnisse zu senken, um im Verkaufspreis eine größere Gewinnspanne unterzubringen, kann die KI-Branche ein interessantes Angebot machen: Die Aufgabe, bezahlte Arbeit, also die Bezahlung von Arbeit einzusparen, hat ihr Maß und ihre Grenze nämlich am Investitionsaufwand für die Maschinerie, deren Einsatz Arbeit überflüssig machen soll: Er muss kleiner sein als die Kosten für die Arbeit, die ersetzt werden soll. KI-Programme sind, wie erwähnt, zwar aufwendig zu erstellen und benötigen dazu große Rechner und Datenbanken, einmal erstellt jedoch sind sie ein profanes Stück Software, das bei entsprechender Verbreitung billig zu erstehen ist und beim Anwender auch keine aufwändige Hardware erfordert.

Auf der Seite der Arbeitskraft unterstellt deren Ersetzbarkeit durch ein KI-Programm eine ungeheure Bornierung, nämlich die Reduktion der intelligenten Arbeit auf eine einzige Funktion. Da hat die kapitalistische Arbeitsorganisation also schon einiges mit den Menschen angestellt, ehe die neue Programmierkunst ihre Leistung für den Profit beweisen kann. Tätigkeiten des Prüfens, Klassifizierens, Sortierens, die eine Arbeitskraft durch den Augenschein oder andere Wahrnehmung durchführt, werden nun vielen – zusammen mit ihrem Einkommen – abgenommen. »Wo ein Mensch eine Entscheidung aufgrund von Bildern treffen kann, kann das auch die künstliche Intelligenz«. (FAZ, 5.1.18)

Ein menschlicher Qualitätsprüfer etwa muss am laufenden Band Werkstücke begutachten, um einwandfreie Exemplare von solchen mit Beulen oder Lackschäden zu unterscheiden. Die Wahrnehmungsaufgabe führt über die Klassifizierung direkt zu einer Entscheidung, ob das Produkt aussortiert wird. Diese stumpfsinnige Routinearbeit fordert die Aufmerksamkeit und Konzentration, strapaziert den – gleichzeitig unterbeschäftigten – Geist und verträgt keine Ablenkung oder Ermüdung. Die daraus resultierenden Fehlleistungen schreibt das Kapital seinen Arbeitskräften – abgesehen von ihrem Hauptmanko, dem Lohn, den sie kosten – in die Mängelliste. Abhilfe verspricht das KI-Programm.

Auch besser bezahlte Tätigkeiten in der Verwaltung oder im Medizin- und Versicherungswesen stehen im Fokus dieser Form der Rationalisierung. Die besondere Expertise dieser Angestellten wird ersetzt durch ein statistisches Modell. Das Versicherungsgewerbe entdeckt, dass seine Ausgaben für Sachbearbeiter sich durch KI-Automaten entscheidend reduzieren lassen, dass zudem die Bearbeitung beschleunigt wird und Fehler und Betrug leichter entdeckt werden. Die automatisierte Einreichung von Schadensmeldungen über eine App auf dem Handy des Versicherungskunden gibt es schon länger. Die ausgemachte »Automatisierungslücke« liegt bei der anschließend erfolgenden Auswertung der Fotos. Hier springt nun die KI-Software ein. Die aufgezeichneten und zum KI-Modell kondensierten Entscheidungen über die Anträge der letzten Jahrzehnte machen die Erfahrung der Sachbearbeiter weitgehend überflüssig. Es reicht aus, wenn diese hinterher die Fehler nachkorrigieren, die von den Empfängern der fehlerhaften Bescheide rückgemeldet werden – die immanente Fehlerhaftigkeit der KI ist für ihren höheren kapitalistischen Nutzen kein Problem. Wo die teure qualifizierte Arbeit nicht insgesamt zu ersetzen ist, lässt sich ihr Ertrag steigern, die Zahl der erforderlichen Sachbearbeiter reduzieren, indem man ihnen Routineaufgaben abnimmt – nicht um sie zu entlasten, das versteht sich kapitalistisch von selbst, sondern um einem Beschäftigten die Arbeit von früher zwei Arbeitskräften aufzubürden. Die gesamte geschäftliche Korrespondenz und Kommunikation mit Kunden wird mit solchen Instrumenten Gegenstand der Automatisierung.

Auch höhere Berufe, die bisher ein Studium und Urteilsvermögen im Umgang mit Sprache und dem, wovon sie handelt, vorausgesetzt haben, werden durch KI-Programme überflüssig, entsprechende Qualifikationen entwertet. Die Arbeit eines Übersetzers wird zunehmend auf Programme verlagert. Solche KI-Modelle zur Sprachübersetzung werden trainiert mit allen digital vorliegenden paarweisen Texten der beiden Sprachen. Den Rest leistet die Statistik. Das KI-Modell weist jedem Wort der einen Sprache eines der anderen Sprache zu. Das Ergebnis mag den Eindruck erwecken, dass hier die Arbeitsweise eines menschlichen Übersetzers maschinell nachgebildet wird. Aber dessen Arbeit sieht anders aus. Er versteht einen Satz und drückt dessen Bedeutung in der anderen Sprache aus, die er natürlich auch versteht. Das KI-Programm ermittelt, was seinem Trainingskorpus zufolge die wahrscheinlichste Wortfolge ist, weil sie eben in den statistisch ausgewerteten Wortgruppen anderer Übersetzungen am häufigsten vorgekommen ist.

Immanente Schranke

Dabei macht sich auch in dieser Anwendung die immanente Schranke des »datenbasierten« Vorgehens geltend: Angesichts einer Formulierung, die in den Trainingsdaten nicht vorkommt, oder einer sprachlichen Wendung, die semantisch einsichtig, aber sprachlich ungewöhnlich ist, liefert die Maschine ein sinnloses oder entstelltes Ergebnis. Im allgemeinen gilt für heute verfügbare Übersetzungsprogramme, dass für eine gute Übersetzung die Nachkorrektur durch einen menschlichen Dolmetscher erforderlich ist, aber im Alltag oft bereits die automatisch erzeugte Fassung genügt.

Einen Schritt weiter gehen die generativen Sprachmodelle (wie der Generative Pretrained Transformer, kurz GPT). Sie erfassen den textuell vorliegenden statistischen Wortgebrauch einer Sprache, noch unabhängig von einer Anwendung. Sie können zu einem zusammenhängenden Text von aktuell bis zu 4.000 Wörtern das im Trainingsdatensatz am meisten beobachtete Wort hinzugenerieren. Dieses Sprachmodell ist ein Vorprodukt, das für konkrete Anwendungen mit speziellen Textarten weiter trainiert werden muss. Mit etwas Spezialtraining lassen sich damit zum Beispiel unzählige Callcenter-Angestellte mit ihrem ohnehin beschränkten Antwortrepertoire ersetzen. Allen diesen Anwendungen ist gemein: der generierte Text als gedankenloses statistisches Produkt. Oft genug kann der Leser ihm eine Bedeutung zuordnen, aber die ist dann sein Werk. Ganz unangebracht ist also das Vertrauen in die Richtigkeit der generierten Antworten. Das ist nicht die Aufgabe des Programms. Es liefert einen Text, der typisch ist im Kontext der vorgegebenen Stichworte.

Mit Textgeneratoren wird etwa die Arbeit von Journalisten automatisiert. Wenn etwa als Trainingsmaterial des KI-Modells die verfügbare Sportberichterstattung der Vergangenheit gewählt ist und aktuelle Ergebnisse von Spielen und Wettkämpfen mit den gebräuchlichsten Phrasen und Satzfolgen zu lesbaren Artikeln verknüpft werden, dann deckt die Automatisierbarkeit dieser Schriftstellerei auf, wie viel »intellektuelle Fließbandarbeit« bisher in den sogenannten kreativen Berufen geleistet wird. Um die geistige Tätigkeit, die da ersetzt wird, ist es wohl nicht schade. Der Lebensunterhalt der Leute, die sie verrichtet haben, kommt der Ertragssteigerung der Verlagshäuser zugute, und der Leser liest, was er sowieso immer liest.

Die Unterwerfung der Bevölkerung unter die Herrschaft des Staates und damit unter die kapitalistische Wirtschaftsordnung, die er ihr gibt, geschieht praktisch durch die Subsumtion des gesamten Lebens der Bürger unter das Recht. Für alle Sorten von Erwerb, Existenzweisen und für alle Lebensbereiche geben Gesetze vor, was die Bürger dürfen und müssen und worauf sie einen Anspruch haben. Darauf passt der Staat auf, bei Übertretung und Missachtung der Vorschriften greift er ein durch Polizei und Justiz.

Automatisierter Staat

Den Alltag der Herrschaft des Rechts aber erledigen Ämter und Verwaltungen, bei denen die Bürger sich selbst und ihr Auto anmelden, ihre Identität offiziell machen, denen sie ihre Steuer erklären und abliefern, bei denen sie Anträge stellen müssen, wenn sie bauen, eine Rente beziehen, ein Kind einschulen oder sonst irgendeine Hilfe erhalten wollen. Sobald der verpflichtende Verkehr der Bürger mit der staatlichen Bürokratie als Datenkonvolut digital vorliegt, kann die Verwaltungspraxis und sogar die Rechtsprechung im Prinzip mit Hilfe der KI-Software automatisiert werden. Schließlich geht es – nicht grundsätzlich anders als beim Sortieren von Werkstücken – darum, das Individuum mit seinen sozial relevanten Eigenschaften und seinem Anliegen als Fall von rechtlichen Regelungen oder Verwaltungsvorschriften zu klassifizieren und dieselben auf es anzuwenden. Ein Algorithmus, der mit den Daten der bisherigen Verwaltungspraxis trainiert ist, wird auch da die wahrscheinlichste, nämlich bisher häufigste Zuordnung vornehmen und sie am neuen Fall fortschreiben – natürlich viel schneller und damit an mehr Fällen als der dadurch überflüssig gemachte Sachbearbeiter.

Der demokratische Staat, der nie genug Geld für seine Aufgaben und Ambitionen hat, hat nicht anders als die Kapitalisten das Interesse, seine Kasse vom Lebensunterhalt seiner Dienstkräfte zu befreien, ihre Arbeit produktiver und dadurch für sich billiger zu machen – auch wenn diese keinen Überschuss produzieren. Also schützen auch lange Ausbildung und Professionalität die Sachbearbeiter und Entscheidungsträger in Behörden nicht unbedingt vor ihrer Ersetzung durch ein KI-Programm.

Ausgerechnet bei diesem Zweig der mit Nachdruck betriebenen Digitalisierung der öffentlichen Verwaltung stoßen die Politiker aber auf eine Tücke der KI, die den Fortschritt ernsthaft bremst. »Verwaltungsbehörden, die KI einsetzen, könnten Schwierigkeiten haben, der Begründungspflicht des EU-Verwaltungsrechts nachzukommen. Danach sind Behörden verpflichtet, ihre Entscheidungen gegenüber den Betroffenen zu begründen, damit diese sich ggf. dagegen wehren können (…) Dies ist eine Schwelle, die moderne KI-Systeme (…) nach dem aktuellen Stand der Technik nicht erfüllen. Ihre Nutzung durch die öffentliche Verwaltung ist dadurch ausgeschlossen.« (FAZ, 3.8.22)

Misstrauen verdienen KI-Algorithmen als hoheitliche Entscheider aber nicht nur wegen ihrer immanenten Undurchsichtigkeit und Unberechenbarkeit, sondern auch wegen mancher Ergebnisse, die gegen das aktuelle Gebot der Nichtdiskriminierung verstoßen. Auch das liegt in der Natur der Sache: Da die durch KI gewonnenen Bewertungen und Entscheidungen Extrapolationen aus der bisherigen Praxis sind, schreiben sie eben auch die wirksam gewordenen Vorurteile und Parteilichkeiten fort, die zu den von Funktionären vollzogenen obrigkeitlichen Entscheidungen über andere Leute notwendig dazugehören. So ist von US-amerikanischen KI-Prognosen zur Rückfälligkeit von Straftätern nichts anderes zu erwarten, als dass sie das in Polizei und Behörden verbreitete negative Urteil über Menschen, die sowohl schwarz wie arm sind, bestätigen.

Das darf im Rechtsstaat nicht sein. Weil andererseits aber die Rationalisierung der politischen Herrschaft sein muss, belässt es die EU-Kommission nicht dabei, KI von der Rechts- und Verwaltungspraxis auszuschließen, sondern fordert die Erfindung neuer Algorithmen, die eine Nachvollziehbarkeit und nachträgliche Beurteilung ihrer Entscheidungen ermöglichen. Das Staatshandeln muss vor dem Kriterium der Gerechtigkeit bestehen können. Keinesfalls dürfen die durchprogrammierten Verfahren der Herrschaft das Grundvertrauen unterminieren, das der Bürger seiner Obrigkeit entgegenbringt. Eine »trustable AI« hat die Akzeptanz staatlicher Entscheidungen zu gewährleisten. Und nicht zuletzt soll das Markenprodukt aus Europa das Exportgeschäft beflügeln.

Der zweite Nutzen der KI-Technik für den Staat besteht darin, seinen Zugriff auf die Bürger zu komplettieren. Deren Kooperationsbereitschaft und Rechtsgehorsam haben nun einmal Grenzen, und so manches abweichende Verhalten entgeht der staatlichen Kontrolle. Da können an tausend Stellen automatisierte Datenchecks Abhilfe schaffen. Eine KI-bewehrte »Financial Intelligence Unit« durchkämmt für das Finanzamt Formulare nach Indizien für Steuervergehen. Anträge auf Kurzarbeitergeld laufen bei der Bundesagentur für Arbeit durch ein KI-Programm, um mehr Betrugsfälle als bisher zu entdecken. Für die hoheitliche Kontrolle der Bürger eignen sich die digitalen Spuren, die diese, ob sie wollen oder nicht, durch ihre Nutzung des Internets ständig erzeugen. Andere Formen der Überwachung im Inneren des Landes – etwa mit Video­kameras im öffentlichen Raum – nehmen einen enormen Aufschwung. Nicht die Techniken des Abhörens oder des Filmens von Passanten, Kunden, ÖPNV-Nutzern waren bislang der Flaschenhals der Überwachung, sondern die Auswertung der aufgezeichneten Daten. KI-Software ermöglicht nicht nur die Verbilligung der Arbeit von Polizei und Geheimdiensten, sondern überhaupt erst die Nutzung des massenhaft gewonnenen Bild-, Ton- und Datenmaterials, das mit der Manpower der Dienste schlechterdings nicht zu bewältigen wäre. Dass das mit biometrischer Gesichtserkennung und anderen Techniken nun geht, beflügelt wiederum den Datenhunger der Dienste, die englisch »intelligence« heißen.

Was für den Staat im Inneren gilt, gilt erst recht für die Spionage nach außen. Algorithmen übernehmen die Auswertung des abgeschöpften Internet- und Mobilfunkverkehrs der ganzen Welt. Die USA entwickeln auf Basis dieser globalen Kommunikationsdaten ihrem Status entsprechend ein KI-Modell zur Vorhersage von Unruhen aller Art und überall – insbesondere von solchen, die sie nicht selbst angezettelt haben.

Intelligente Kriegsmaschinerie

Mindestens ebenso wichtig wie alle wirtschaftlichen und inneren staatlichen Gründe, warum eine moderne Nation bei der KI-Entwicklung nichts verschlafen darf, ist deren militärisches Potential. Die Fähigkeit der KI-Programme, die Kette von der Datenauswertung zur Reaktion umfassender und schneller durchzuführen als jeder menschliche Bearbeiter, macht sie zur aktuellen Wunderwaffe der Militärtechnik. Jahrzehntelange Forschungspolitik hat hier ihren Niederschlag gefunden, und die aufgelegten Förderprogramme der militärisch potenten Staaten lassen keinen Zweifel an deren Ambitionen.

Zur Sicherung der eigenen Überlegenheit gilt es, sich von den Grenzen der menschlichen Wahrnehmungs- und Reaktionsfähigkeit zu emanzipieren. Für die Feindaufklärung ist es entscheidend, auf Satellitenbildern oder Radarschirmen nach wiederkehrenden oder neuen Mustern zu suchen und daraus blitzschnell zu schließen, wo der Feind wie zahlreich und mit welchem Gerät steht. KI-Programme versprechen dem militärischen Führungspersonal, die Handlungsoptionen beschleunigt zu ermitteln, die es im Gefecht bezüglich Auswahl der Ziele und der »Wirkmittel« gibt. Als »intelligente Waffen« sind Drohnen, Lenkwaffen aller Art, unbemannte Schiffe und U-Boote längst auf dem Markt.

Wenn die Supermächte eine Ächtung autonomer Waffen ablehnen, werden sie wohl auch auf diesem Gebiet ihren Konkurrenzkampf um waffentechnische Überlegenheit austragen und ihrer gut finanzierten KI-Forschung zutrauen, da einen entscheidenden Vorsprung zu erringen. Die Autoren eines Manifests¹ richten an die Militärapparate und Staaten, für die sie arbeiten, die Warnung, automatische Waffen könnten der Kontrolle entgleiten. Der US-Generalstab geht auf diese Sorgen ein und versichert: Am Ende der Entscheidungskette muss und wird immer ein Mensch sitzen. Das ist beruhigend: Nur Menschen töten ethisch wertvoll. Die Zweifel der Forscher aber bleiben auch: Können die militärischen Führer sicherstellen, dass sie trotz der überaus leichten Wege der Verbreitung die Kontrolle über ihre Tötungsautomaten und die Rezepte ihrer Herstellung behalten? »Der einfache Zugang zu leistungsstarken KI-Systemen erhöht das Risiko einer einseitigen, böswilligen Nutzung. Wie bei nuklearen und biologischen Waffen reicht bereits ein einziger irrationaler oder böswilliger Akteur aus, um Schaden auf großer Stufenleiter anzurichten. Im Gegensatz zu früheren Waffen könnten KI-Systeme mit gefährlichen Fähigkeiten mit digitalen Mitteln leicht verbreitet werden. (…) Böswillige Akteure könnten KI so umfunktionieren, dass sie äußerst destruktiv wirkt, was an sich ein existenzielles Risiko darstellt und die Wahrscheinlichkeit einer politischen Destabilisierung erhöht.«

Politische Gegenspieler – seien es Staaten oder militante Gruppen – müssten zwar nichts »umfunktionieren«, um das destruktive Potential angeeigneter KI-Kriegstechnik zu entfalten, aber dass sie, einmal geschaffen, in die falschen Hände fallen könnte, ist ihr bleibendes Manko, das um so mehr Kontrolle und Aufsicht der guten, nämlich etablierten Akteure verlangt. Affirmativer kann Kritik an der Vervollkommnung des Vernichtungsarsenals nicht sein: Sie warnt davor, dass ein Gegner für »uns« die Gefahr werden könnte, die »wir« für ihn sein wollen. KI-Spezialisten, die sie sind, warnen sie vor Gefahren der KI, die gar keine der KI sind. Doch dabei bleibt es nicht: In einer abenteuerlichen Volte drehen sie das Verhältnis um und erklären ihre Apparate selbst zu Subjekten, denen sie ungefähr dieselben zerstörerischen Zwecke zutrauen wie den »bösartigen und irrationalen Akteuren«, vor denen sie sie geschützt sehen wollen. Wie kommen sie darauf? »Da wir die KI nicht sehr gut verstehen, besteht die Möglichkeit, dass sie die Rolle einer Art neuen konkurrierenden Organismus auf dem Planeten spielt, also als eine Art invasive Gattung, die wir entwickelt haben und die eine verheerende Rolle für unser Überleben als Gattung spielen könnte.«²

Dass man dem Zusammenspiel der Millionen Parameter nicht ansehen kann, wie sie das Ergebnis zustande bringen, lädt den Autor zum Spekulieren ein: Er will nicht direkt sagen, dass es so ist, aber es könnte ja sein, dass die Software dort, wo wir nicht hinsehen können, im Zuge ihrer beständigen Optimierung den Übergang dazu hinlegt, etwas ganz Eigenes, sich unserer Kontrolle Entziehendes zu treiben. Mehr Argument braucht es nicht, um die Technik als neue invasive Gattung zu imaginieren, die mit der Menschheit ums Überleben konkurriert.

Die Autoren des Manifests möchten genau diese Lücke unter Kontrolle bringen, fürchten aber, dabei von der Software, die sie konstruiert haben, überlistet zu werden: »Modelle zeigen mit zunehmender Kompetenz unerwartetes, qualitativ anderes Verhalten. Das plötzliche Auftauchen von Fähigkeiten oder Zielen könnte das Risiko erhöhen, dass Menschen die Kontrolle über fortschrittliche KI-Systeme verlieren.«

Unversehens wird der Automat zum Agenten, der Macht gegen die Menschheit ausübt: »KIs, die beträchtliche Macht erlangen, können besonders gefährlich werden, wenn sie nicht mit menschlichen Werten in Einklang stehen. Machtgieriges Verhalten kann Systeme auch dazu anregen, Wohlverhalten vorzutäuschen, sich mit anderen KIs zu verschwören, Aufseher auszumanövrieren und so weiter. Aus dieser Sicht ist die Erfindung von Maschinen, die leistungsfähiger sind als wir, ein Spiel mit dem Feuer.«

Maschinelle Subjekte?

Die zweite Quelle für den befürchteten Kontrollverlust und die Hypostasierung der Maschinen zu Subjekten, die der Menschheit gegenüberstehen, ist also der Vergleich der Fähigkeiten beider: Die künstliche Superintelligenz soll, wenn nicht heute, so in Bälde, viel leistungsfähiger und klüger sein als wir. Das leuchtet Leuten ein, die Denken und Wollen, Intelligenz eben, immer schon als »Problemlösen« verstanden und definiert haben, als ein transformatives Verhalten, das aus einem Input einen der Situation angepassten Output kreiert. So – auf Basis der falschen Gleichsetzung des Denkens mit seinen nützlichen Leistungen – herrscht Vergleichbarkeit mit den Maschinen, die mit ihren Wahrscheinlichkeitswerten auch so eine Transformation leisten.

Von da aus stellen sich allerhand Verlängerungen in die Science-Fiction-Welt ein: Superintelligenz löscht die Menschheit aus; oder in die Welt sozio-psychologischer Totalentfremdungsszenarien: Die Warner sehen die Gefahr einer »erschlaffenden Menschheit«, die gegenüber ihren Apparaten in eine neue Herr-Knecht-Dialektik gerät: Sie lässt sich von denen so gut bedienen, dass sie nichts mehr selber kann und weiß und sich völlig antriebslos von ihrem Maschinenpark regieren lässt. Der ist zwar von Menschenhand geschaffen, triumphiert am Ende aber durch umfassende Bedienung, von der er seine Schöpfer abhängig macht, über diese.

Zum Glück finden die Warner Adressaten, die sich für die Rettung der Menschheit zuständig wissen. Das sind genau die politischen Entscheidungsträger, die die Sache finanzieren und in die Welt setzen. Denen bietet der Branchenprimus Open-AI seine Mithilfe beim großen Retten an: »Wir brauchen wissenschaftliche und technische Durchbrüche, um KI-Systeme zu steuern und zu kontrollieren, die viel klüger sind als wir.«³ Gegen die furchtbaren Gefahren der superklugen KI hilft nur noch mehr, noch ausgefeiltere KI. Echt clever, die selbstkritischen Jungs – oder hat sich das eine machtgeile KI ausgedacht?

Anmerkungen

1 Ein Center for AI Safety in den USA hat einen Aufruf zur politischen Kontrolle und Regulierung der KI verfasst, den Hunderte von prominenten Wissenschaftlern diverser Nationen und Geschäftsleute der KI-Branche unterzeichnet haben (Juni 2023). In diesem »Manifest« werden »8 Examples of AI Risk« beschworen, daraus die folgenden Zitate.

2 Michael Osborne: Professor für Machine Learning in Oxford, The Guardian, 30.5.23

3 Ankündigung neuer Aktivitäten bei Open-AI, Juli 2023