Gottes Werk und Eigentum

Das erklärte Anliegen von Leos Enzyklika ist es, wie bereits aus ihrem Untertitel hervorgeht, den Menschen im Zeitalter der sogenannten künstlichen Intelligenz zu bewahren. Die Schrift entfaltet dazu ein ganzes System von Gefahren, die von psychischen Schäden der Nutzer (intellektuelle Trägheit, Suchtverhalten) über ökologische Folgeerscheinungen (hoher Energie- und Wasserbedarf der Rechenzentren mit entsprechendem CO₂‑Ausstoß und Klimaschäden), die Verzerrung zwischenmenschlicher Kommunikation (Mobbing, Ausgrenzung, Cyberkriminalität) bis zu menschenunwürdigen Formen der Arbeit (prekär, Kinderarbeit bei undurchsichtigen Lieferketten, »neue Sklaverei«) führt. Am Ende warnt er vor dem Transhumanismus, der Gottes Werk, die Erschaffung der »großartigen Menschheit« nach seinem Ebenbilde, durch die Erschaffung von »Hybriden aus Mensch und Maschine« »verbessern«, aber eigentlich zunichtemachen wolle.

Die gegenwärtig größten Gefahren der KI sieht Leo in der Manipulation von Fakten und der Verbreitung von Lügen. Wahrheit verliere so ihre verbindende Kraft und führe (wie er Hannah Arendt zitiert) »zu einem langsamen, aber unaufhaltsamen Abgleiten zum Totalitarismus«. Weiterhin biete die KI die Möglichkeit, massenhafte Daten ihrer Nutzer abzugreifen, zu »Profilen« zu verdichten, die Menschen wie noch nie zuvor zu überwachen und in ihren Entscheidungen (als Konsumenten oder Wähler) zu beeinflussen. Zuletzt multiplizieren sich auch noch die Risiken durch autonome Waffensysteme, denen die Entscheidung über militärische Aktionen übertragen wird.

Leos Kritik richtete sich Richtung Silicon Valley: Die »Machtkonzentration in der digitalen Welt« ist mit der »unveräußerlichen Würde des Menschen« oder dem »Gemeinwohl« nicht zu vereinen. Sie muss der »Logik« des »Wettbewerbs« entzogen werden. Es reicht nicht aus, die KI durch den Staat »zu regulieren«: Sie müsse »entwaffnet« werden.

Starke Worte und berechtigte Forderungen, bei denen allerdings der Hinweis auf die Möglichkeit einer Enteignung der Techgiganten außer Acht bleibt. Auch die Möglichkeit der Beaufsichtigung der Techkonzerne durch unabhängige Institutionen, deren Ausrichtung auf das »Gemeinwohl« transparent ist und überprüft werden kann, wird nicht in Erwägung gezogen. Am Privateigentum rüttelt weder Leo XIV. noch die katholische Soziallehre, wobei sie zwischen dem Privateigentum an Produktionsmitteln (das die private Aneignung gesellschaftlich erzeugten Mehrwerts ermöglicht) und dem eines Wohnhauses, das der Eigentümer selbst bewohnt, gar nicht unterscheidet.

Leos Kritik am Silicon Valley richtet sich im besonderen gegen den Marktradikalismus der Neoliberalen, deren Thinktanks wie etwa das einflussreiche Mises Institute oder das Center for Libertarian Studies den Techunternehmern nahestehen, da sie im »freien Markt« die Garantie ihrer wirtschaftlichen Macht sehen. »Im Zeitalter von KI und Robotik«, so schreibt er, ist es nicht mehr möglich, sich »allein auf die ›unsichtbare Hand‹ des Marktes zu verlassen«. Auch hier, in wirtschaftlicher Hinsicht, spricht Leo dem Staat die Aufgabe zu, »die wirtschaftlich-technischen Dynamiken auf das Gemeinwohl auszurichten«.

Das ist, wie er klar erkennt, nicht ohne »internationale Zusammenarbeit« und eine staatsübergreifende Verständigung auf »gemeinsame Strategien« möglich. Einzelne Namen nennt Leo XIV. nicht, es ist jedoch klar, wen er mit seiner Kritik meint. Ideologen wie der Wirtschaftswissenschaftler Hans-Hermann Hoppe, der Blogger Curtis Yarvin oder der Milliardär Peter Thiel huldigen der Ansicht, dass »Freiheit« – ihre Freiheit – nicht mit Demokratie zu vereinen ist, dass die Fortschritte der Technologie durch demokratische Vorgaben (wie Datenschutz, Wettbewerbsrecht, Schutz des geistigen Eigentums, Kinder- und Jugendschutz usw.) behindert werden. Daraus folgt, dass Demokratie abgebaut werden sollte. Vor allem bekämpfen sie überstaatliche Organisationen, von denen sie Kontrolle und Einschränkungen ihrer Wirtschaftsmacht befürchten. Diese politischen Vorstellungen gehen statt dessen dahin, die bestehenden Staaten zu zerschlagen und in Aktiengesellschaften zu verwandeln, bei denen CEOs an die Stelle gewählter Präsidenten treten.

Indem sich Leo diesen Tendenzen entgegenstellt, schließt er sich den Bestrebungen von Jürgen Habermas oder Hans Jonas an, die versucht haben, die Herrschaft der Demokratie über die verselbständigte Technik zurückzugewinnen: nicht allerdings durch Kommunikation und die Macht der öffentlichen Meinung (wie Habermas) oder die an Kant orientierte Ethik der Verantwortung (wie Jonas), sondern durch die katholische Soziallehre.

Leo möchte nicht den Eindruck erwecken, er sei ein Technikfeind. Er bezeichnet die KI als ein »wertvolles Hilfsmittel«, das aber »Vorsicht erfordert«. Im Gegensatz zu den vielen unheilvollen »Nebenwirkungen«, die er benennt, sind Beispiele, wofür die KI als »wertvolles Hilfsmittel« dienen könnte, in der Enzyklika allerdings kaum zu finden. Dominant ist die Kritik an der zunehmenden Macht des »technologischen Paradigmas«, das alle persönlichen, politischen und wirtschaftlichen Entscheidungen dem Maßstab »der Effizienz, der Kontrolle und des Profits« unterwirft. Die Technik hat sich dem Menschen gegenüber verselbständigt, führt ein Eigenleben und erniedrigt die »großartige Menschheit« zu »Opfern ihrer eigenen Errungenschaften«. Das Argument ist nicht neu, es ist seit Marx bekannt und zu einem Stereotyp der Technikkritik geworden. Im Gegensatz zu Leo hat Marx allerdings die Genese der genannten Entfremdung detailliert dargestellt und damit die Ursachen der Entfremdung benannt. Sie sind es letztlich, die beseitigt werden müssten, wenn das »Gemeinwohl« die Herrschaft über die Technik erringen soll.