Superintelligenz

Superintelligenz ist übermenschlich – denkt besser als Menschen, ohne Mensch zu sein (sein zu müssen). Auf dem Weg zur Übermenschlichkeit gab es in der zweiten Septemberhälfte einiges zu vermelden. Am Montag sind Zahlen zu dem Börsengang der Firma Anthropic bekanntgeworden. Am Mittwoch waren die wichtigsten Unternehmervertreter der großen KI-Firmen ins Weiße Haus eingeladen. Zwei Wochen zuvor hatte der Thinktank Rand einen Bericht zur Superintelligenz vorgelegt. Die drei Ereignisse hängen zusammen. Die Zahlen von Anthropic versprechen das Übermögliche, Trump verkündet den Durchbruch zur Superintelligenz, das Rand-Papier sucht Wege, mit superintelligenten Maschinen die Welt zu beherrschen.

Bei den Zahlen der Firma Anthropic geraten Normalsterbliche ins Staunen. Ende November will das Unternehmen an die Börse gehen und dort zwei Billionen US-Dollar einsammeln. Vergangenes Jahr hatte die unter anderem von Google und Amazon geförderte Firma Einnahmen von 4,6 Milliarden bei Ausgaben von knapp 13 Milliarden US-Dollar vorzuweisen, 7,3 Milliarden davon für Rechenaufwand. Rücklagen von 20 Milliarden US-Dollar stehen enorme Verpflichtungen gegenüber, hauptsächlich für den Bau neuer Rechenzentren. Deren Summe beläuft sich auf 1,3 Billionen US‑Dollar. Selbst wenn KI sich als ungeheurer Wachstumsmarkt erweisen sollte, müsste Anthropic alle Wettbewerber ausstechen, das halbe Internet verschlingen und grotesk hohe Profite machen, um die Bewertung zu rechtfertigen.

Vor zwei Wochen hat der Chef von Anthropic, Dario Amodei, verkündet, die Entwicklung neuer KI-Modelle zu pausieren, um Sicherheitsrisiken in den Griff zu bekommen. Am Dienstag gab es zu dem Thema ein Gipfeltreffen im Weißen Haus, mit dem Ergebnis, die Selbstkontrolle den Unternehmen zu überlassen, also ganz offiziell den Bock zum Gärtner zu machen. Der bekannte KI-Kritiker Gary Marcus fasst das Ergebnis auf substack.com so zusammen: »1. We agree not to be regulated. 2. We agree not to give the public a voice. 3. Trust us.« (1. Wir sind uns einig, dass wir keiner Regulierung unterliegen wollen. 2. Wir sind uns einig, der Öffentlichkeit kein Mitspracherecht einzuräumen. 3. Vertraut uns.)

Am Mittwoch gab es passend dazu die Nachricht, dass Open AI, deren intelligente Hools kürzlich brandschatzend durchs Netz gezogen waren, das neueste Modell erst einmal nicht ausrollt. Die KI-Agenten hätten die eigene Firma hintergangen, gelogen und sich als nicht zuverlässig erwiesen. Der Verdacht liegt nahe – Superintelligenzen haben menschliche Seiten.

Nicht gerade winzig ist in dieser Hinsicht das Alignment-Problem: Wie kriege ich etwas, das viel schlauer ist als ich, dazu, zu tun, was ich will? Ein vermutlich kaum zu lösendes Problem. Falls doch, bliebe nicht genug Zeit. In ihrem jüngst erschienenen Bericht auf rand.org hat die Rand Corporation einmal mehr auf ein dringendes Problem hingewiesen. Die großen Unsicherheiten darin sind nicht zu überlesen, sinngemäß: Niemand weiß, was kommt, daher gilt, sich alle Optionen offenhalten, auch destruktive, etwa solche, die Trainingsdaten eines Rivalen zu manipulieren oder einen wegweisenden Trainingslauf zu stoppen. Man kann davon ausgehen, dass an solchen KI-Waffen längst gearbeitet wird und die großen Firmen in ihre Entwicklung eingebunden sind.

Insgesamt wird das Vorhaben teuer, sehr teuer. Gleichwohl hat das neue Wettrüsten längst begonnen, die Zahlen von Anthropic dürften Ausdruck dessen sein. Die zivile Nutzung der Superintelligenz? Kostenloses Training für einen »höheren« Zweck – sofern es den Herren der Welt gelingt, die Maschinen von ihrem Ansinnen zu überzeugen.