Gegründet 1947 Donnerstag, 19. September 2019, Nr. 218
Die junge Welt wird von 2216 GenossInnen herausgegeben
Aus: Wissenschaft & Technik, Beilage der jW vom 11.09.2019
Technikskepsis, Technikoptimismus

Lebensgefährlich unbrauchbar

In der gegenwärtigen Gesellschaftsordnung kann aus sinnvoller Technologie schnell Unsinn werden und der Segen des Fortschritts zum Fluch geraten
Von Daniel Bratanovic
s01vari.jpg

Lasst uns bekämpfen die Natur
Bis wir selber natürlich geworden sind.
Wir und unsere Technik sind noch nicht natürlich
Wir und unsere Technik
Sind primitiv.
Bertolt Brecht: Der Flug der Lindberghs, 1929

Am 29. Oktober 2018 verunglückte in Indonesien ein Flugzeug vom Typ Boeing 737 Max 8 kurz nach dem Start. Alle 189 Menschen auf dem Lion-Air-Flug 610 kamen ums Leben. Nicht ganz ein halbes Jahr später, am 10. März 2019, stürzte eine Maschine des selben Typs sechs Minuten nach dem Start bei Addis Abeba auf dem Ethiopian-Airlines-Flug 302 mit mehr als 700 Stundenkilometern steil ab. Alle 157 Insassen starben. Der Hergang war in beiden Fällen ähnlich. Als wahrscheinliche Ursache gilt eine Fehlfunktion der Steuerungssoftware, die auf der Grundlage falscher Daten eines Sensors mit unnötigen und gefährlichen Korrekturen reagierte. Das autonom agierende System neigte die Nase des Flugzeugs immer wieder nach unten. Minutenlang kämpften die Piloten mit ihrer Maschine, hielten manuell dagegen und versuchten, an Höhe zu gewinnen. Vergeblich.

Hinter der doppelten Katastrophe lässt sich leicht eine simple Wahrheit aufspüren. Boeing drohte von seinem Konkurrenten Airbus abgehängt zu werden und warf daher rasch und ohne den zeitlichen wie finanziell großen Aufwand einer Neukonstruktion seiner jahrzehntealten 737 eine nur sehr geringfügig modifizierte Variante auf den Markt, bei der sparsamere, aber größere und schwerere Triebwerke zum Einsatz kamen, die die Aerodynamik des Flugzeugs veränderten und seine Kontrolle erschwerten. Die letztlich fehlerhafte Steuerungssoftware sollte den Nachteil durch automatische Korrekturen ausgleichen. Doch in welch erheblichem Umfang der Algorithmus in die Abläufe eingreifen würde, wurde künftigen Piloten nicht oder bestenfalls unzureichend vermittelt.

Man mag das konkurrenzgetriebene Verhalten des Unternehmens, seine Jagd nach Maximalprofit als skrupellos und skandalös erachten. Es ist allemal eine unerfreuliche Erinnerung daran, dass die herrschende Produk­tionsweise nicht um des Gebrauchswerts willen produziert, in diesem Falle also Geräte herstellt, die Reisende sicher von A nach B bringen. Wer jedoch von der lebensgefährlichen Unbrauchbarkeit des Imperialismus, dessen Flugzeuge aus der Luft fallen, nicht reden mag, macht sich entweder seine trüben Gedanken über horrible Terminator-Ma­trix-Szenarien einer Menschheit von Zauberlehrlingen, die ihrer technischen Hervorbringungen nicht mehr Herr werden, oder aber fordert gleich: Mehr Maschine, weniger Mensch.

Zum Beispiel so: Als vor zehn Jahren gleich mehrere große Luftfahrzeuge abstürzten, weil auch damals schon die Menschen das Verhalten des Autopiloten nicht begriffen hatten, schlussfolgerte der Technikphilosoph Kevin Kelly: »Auf lange Sicht sollten Flugzeuge nicht von menschlichen Piloten gesteuert werden.« Der »Risikokapitalist« Vinod Khosla befand 2013, ein »Doctor Algorithm« solle den Ärzten nicht bloß assistieren, sondern sie am besten gleich komplett ersetzen; das kanadische Startup »Deep Genomics« stipuliert dieser Tage, die Zukunft der Medizinforschung liege in der Künstlichen Intelligenz, »weil Biologie zu komplex für Menschen ist«.

Die Skeptiker hingegen werden auf Inuit aufmerksam, die jahrtausendelang bei der Suche nach Wild auf verblüffende Weise in der Lage waren, sich in der öden und monotonen Eis- und Tundralandschaft zu orientieren, obwohl es dort kaum Wegzeichen gibt und Fährten über Nacht verschwinden. Die jüngere Generation der Jäger setzt inzwischen aber auf GPS-Technologie, verliert dabei das Geländegespür der Vorfahren und provoziert schwere Jagdunfälle. »So könnte ein einzigartiges Talent, das ein Volk seit Jahrhunderten auszeichnet, schon binnen einer Genera­tion verschwinden«, klagt der Journalist Nicholas Carr. Den prähistorischen Jägern und Sammlern, aus denen langsam Ackerbauern wurden, dürfte es ähnlich ergangen sein, die Jagdfertigkeiten gingen schlicht verloren. Man kann so etwas bedauern.

Und nicht ohne Grund lässt sich fürchten, dass der hochtechnisierte Imperialismus nicht bloß Ramsch und Schrott produziert, sondern Chaos und Unvermögen erzeugt. Ein Verein freier Menschen, der nach wissenschaftlichen Einsichten plant und seinen Stoffwechsel mit der Natur regelt, hätte dagegen die Maschinen von den Fesseln bornierter Produktionsverhältnisse zu befreien, damit die sich revanchieren können.

Die Abbildungen zu dieser Beilage sind dem Comicessay »We need to talk, AI« von Julia Schneider (Text) und Lena Kadriye Ziyal (Graphik) zum Thema Künstliche Intelligenz entnommen. Wir danken den beiden Autorinnen für die Genehmigung zum Abdruck.

www.weneedtotalk.ai

Mehr aus: Feuilleton