Gegründet 1947 Freitag, 3. April 2020, Nr. 80
Die junge Welt wird von 2267 GenossInnen herausgegeben
Aus: Ausgabe vom 22.02.2020, Seite 1 (Beilage) / Wochenendbeilage
Digitalisierung

»IT-Konzerne bekommen einen quasi staatlichen Status«

Gespräch mit Bijan Moini. Die Gier nach Daten eint Behörden und Monopolisten. Über Wege, den digitalen Überwachungsstaat zu verhindern
Interview: Christa Schaffmann
Gericht_prueft_Recht_46391980.jpg
Als Spione verkleidete Demonstranten am 26. August 2015 in Karlsruhe vor einem Transparent mit der Aufschrift »Gegen staatliche Überwachung – den Heidelberger Spitzelskandal vollständig aufklären!«

Ihr gerade erschienenes Buch trägt den Titel »Rettet die Freiheit!«. Welche Freiheit meinen Sie?

Der Titel bezieht sich auf die klassischen Freiheitsrechte. Die geraten durch die Art, wie sowohl der Staat als auch Privatunternehmen die Digitalisierung einsetzen, immer stärker unter Druck. Auf einer eher persönlichen Ebene meine ich die Möglichkeit, ohne gezielte Beeinflussung durch andere Entscheidungen treffen zu können.

Vor wem muss die Freiheit gerettet werden?

Zum einen vor den großen IT-Konzernen, die Geschäftsmodelle rund um die Digitalisierung gebaut haben, wie Facebook, Google oder Amazon, die pro Jahr Gewinne im zweistelligen Milliardenbereich erzielen – zum großen Teil mit Hilfe unserer Daten. Zum anderen gilt es, die Freiheit vor dem Staat zu retten, der sich zunehmend die Möglichkeiten der IT-Konzerne zunutze macht, auf Daten zugreift, die jene zu ganz anderen Zwecken gesammelt haben. Das gilt u. a. für Fluggastdaten, die der Staat massenhaft erhebt und darin nach angeblich gefährlichen Personen sucht. An den USA und China lässt sich ablesen, zu welchen Verhältnissen es noch führen kann, wenn aufgrund der technischen Entwicklung immer mehr Daten verfügbar sind und ihre Auswertung in großem Stil nicht gebremst bzw. verboten wird.

Es ist mir wichtig, die privatwirtschaftliche und die staatliche Seite zusammen zu beleuchten. Die Begehrlichkeiten des Staates werden ja gerade erst geweckt durch die Massen von Daten, die IT-Konzerne sammeln. Die lassen sich ökonomisch nutzen, aber auch für eine unsere Freiheitsrechte einschränkende Sicherheitspolitik. Daneben entwickeln Konzerne auch die Software für diverse weitere Nutzungen. Nach 9/11 haben sich IT-Konzerne dem Pentagon und anderen Ministerien förmlich angedient, tatsächliche und vermutete Gefahren mit Hilfe von IT einzudämmen. Das hat eine Kaskade von Verschärfungen der Sicherheitsgesetze ausgelöst, auch hier in Deutschland.

Immer deutlicher ist in jüngerer Zeit geworden, wie sehr die Freiheit auch durch Akteure von rechts bedroht ist. Sie nutzen die Möglichkeiten der IT-Konzerne ganz besonders erfolgreich aus – zur Machtergreifung und Machtausübung. Ob nun Donald Trump oder die AfD, alle sind im Netz extrem erfolgreich. Das ist akut die größte Gefahr für die Freiheitsrechte.

Warum reicht das Grundgesetz in Zeiten der Digitalisierung zu deren Wahrung nicht aus?

Ich würde nicht sagen, dass es nicht ausreicht. Ich halte das Grundgesetz (GG) für flexibel genug, auf solche modernen Entwicklungen wie Digitalisierung und Künstliche Intelligenz (KI) zu reagieren. Das hat das Bundesverfassungsgericht auch mehrfach demonstriert, z. B. als es im Kontext mit der geplanten Volkszählung 1983 das Grundrecht auf informationelle Selbstbestimmung neu geschöpft hat, das sich aus der Menschenwürde im Sinne des Art. 1 GG und dem Recht auf freie Entfaltung der Persönlichkeit nach Art. 2 Abs. 1 GG ableitet. Die Möglichkeit solcher Neuentwicklungen ist in unserer Verfassung angelegt. Voraussetzung ist aber, dass einem Gericht dargelegt wird, welche Gefahren z. B. mit neuen technischen Entwicklungen wie Digitalisierung und KI einhergehen. Die Komplexität der neuen Mittel, die z. B. die Polizei einsetzen kann, ist um ein Vielfaches größer und schwieriger zu erklären als etwa der große Lauschangriff, also das Abhören von Gesprächen in Wohnungen. Letzteres kann man noch verstehen. Einer Richterin oder einem Richter dagegen eine von KI unterstützte Software begreiflich zu machen, mittels derer Millionen von Datensätzen durchforstet werden und von der man meint, mit ihrer Hilfe potentielle Terroristen finden zu können, ist ungleich schwerer.

Hinzu kommt, dass wir uns in den vergangenen Jahren immer stärker in die Hände von IT-Konzernen begeben haben. Das sind Monopolisten – Amazon auf dem Onlinemarkt, Google auf dem Onlinesuchmarkt, Facebook bei den sozialen Medien. Sie bieten Dienstleistungen, die früher der Staat bereitgestellt hat – in Form eines Marktplatzes, öffentlicher Straßen, in Form von Straßenschildern – wenn man mal nach Entsprechungen in der analogen Welt sucht. Diese und andere Dienstleistungen liegen jetzt in den Händen von IT-Konzernen, wodurch sie einen quasi staatlichen Status bekommen. Sie sind aber nicht im selben Maß an die Grundrechte gebunden wie der Staat. So entsteht – wenn man sie nicht füllt – eine Rechtsschutzlücke, unter der wir leiden.

Digitalisierung und KI entwickeln sich mit großer Dynamik, die selbst die auf diesem Gebiet Forschenden bisweilen überrascht. Ist es dem Gesetzgeber überhaupt möglich, rasch genug auf Entwicklungen zu reagieren, die durch existierende Gesetze nicht erfasst werden können?

Zugegeben, es ist schwierig geworden, auf die technischen Entwicklungen zeitnah und angemessen zu antworten. Aber ich glaube, dass der Staat diesem Problem begegnen kann und muss, indem er z. B. entsprechende Kapazitäten entwickelt und die betroffenen Bereiche auch mit mehr Geld ausstattet, damit Wissenschaftlerinnen und Wissenschaftler engagiert werden können, die auf dem gleichen Level arbeiten wie die Experten in den IT-Konzernen. Zusammen mit Juristinnen und Juristen ließen sich so wirkungsvolle Gesetze zeitnah entwickeln. Es muss nicht sein, dass der Gesetzgebungsprozess technischen Entwicklungen um Jahre hinterherhinkt. Es ist eine Frage des politischen Willens und der Prioritätensetzung.

Braucht es eine Änderung der gesellschaftlichen Verhältnisse, um die Gefahren von Digitalisierung und KI bannen zu können?

Man kann und muss schon jetzt viel tun, statt auf das Ende des Kapitalismus zu warten. Entgegen kommt uns dabei ein breiter Konsens darüber, dass ein ungeregelter Kapitalismus für niemanden wirklich wünschenswert ist. Deutschland verfügt über Erfahrungen mit regulierenden Eingriffen. Energiekonzerne mussten die Schließung von Atomkraftwerken akzeptieren. Genauso ist das auch mit Software. Wenn sich bestimmte Software als gemeinschädlich erweist, muss man sie bzw. ihre Nutzung verbieten und sich auf gemeinnützige bzw. zumindest nicht schädliche Software konzentrieren. Die Frage ist nur, ob die Politik rasch genug und in ausreichendem Maße reagiert.

Botschaften gelangen heute ungeprüft und ungefiltert ins Netz. Eine seriöse Auswahl, wie sie Medien vor Facebook, Google und Co. vorgenommen haben, findet nicht statt. Was als neue Freiheit daherkam, trägt heute zum Teil bedrohliche Züge. Wie wirkt sich aus Ihrer Sicht die Digitalisierung auf die Verbreitung von Informationen und Meinungen aus?

Ich habe mal gelernt, dass Zeitungen insbesondere zwei Funktionen haben: gewichten und gruppieren. Zudem entscheiden sie, ob eine Nachricht groß oder klein oder gar nicht erscheint. Sie bestimmen darüber, in welchen Kontext sie gestellt und wie sie kommentiert wird oder durch eine Überschrift ggf. emotionalisiert wird. In einer klassischen Medienlandschaft existiert eine gewisse Bereitschaft zur Mäßigung. Diese Mäßigung ist im Zeitalter des Internets komplett verlorengegangen. Im Netz gewinnt, was Menschen emotional bewegt, ganz besonders das, was sie empört. Das bestätigen auch wissenschaftliche Studien. Auf Twitter arten Auseinandersetzungen binnen weniger Minuten in Streit aus. Die Aufmerksamkeit, die durch solche emotionalen »Nachrichten« erzeugt wird, ist gewaltig. Sie wird geschürt durch Algorithmen, die diese Tweets nach oben spülen. Eine sorgfältig geprüfte und abgewogene Nachrichtenversorgung wird dadurch enorm erschwert. Das ist ein gewaltiger Verlust. Dieser Lage sehen sich nur wenige Medienhäuser gewachsen, und selbst die lassen Federn, wie Spiegel online beweist. Auch dort liest man Überschriften, die es so vor 20 Jahren im Spiegel nicht gegeben hätte. Auch der Erfolg von Donald Trump basiert auf dieser durch die sozialen Medien geschaffenen Sachlage.

Wie frei ist die Meinung noch, die auf Basis dieser Art Informationen gebildet wird und zum Teil in Blasen entsteht, auf deren Nutzung manche Menschen ihren Medienkonsum beschränken?

WE-Gespräch.jpg
Bijan Moini

Meinung wurde immer beeinflusst, angefangen vom eigenen Elternhaus. In unserer Zeit fällt auf, mit welcher Zielgenauigkeit einzelne Personen angesprochen werden können. Das geschieht mit Hilfe ganz unscheinbarer Datensätze, z. B. Verkehrsdaten: Wann steuere ich welche Webseite an, mit wem kommuniziere ich usw. Auf dieser Grundlage können IT-Konzerne extrem genaue Persönlichkeitsprofile erstellen. Das ermöglicht ihnen, zur rechten Zeit genau die Botschaft an mich zu adressieren, auf die ich anspringe. Das wiederum macht mich verwundbar, weil manipulierbar. Es kann zur Folge haben, dass ich eine ganz bestimmte Werbung anklicke, oder dass ich meine Meinung zu etwas ganz Bestimmtem ändere. Das jedenfalls hat im US-amerikanischen Wahlkampf die von Trump engagierte Firma Cambridge Analytica versucht, indem sie Wechselwähler identifizierte und gezielt mit rassistischen Botschaften ansprach.

Studien, die auf einen eng begrenzten Personenkreis gerichtet waren, haben zudem gezeigt, wie einfach Facebook Gemütszustände der User beeinflussen kann. Ich hoffe, dass das bislang nur zu Studienzwecken geschieht, aber allein die Möglichkeit ist alarmierend. Denn vielleicht beschließt Facebook eines Tages, einen Mark Zuckerberg ins Präsidentenamt zu bringen …

Was halten Sie von der These, Software sei frei von Vorurteilen, anders als der Mensch. Insofern seien Entscheidungen objektiver – egal, ob im juristischen Kontext oder im Rahmen der Personalauswahl?

Davon halte ich nichts. Der Algorithmus bei der Personalauswahl ist ein Betriebsgeheimnis. Allein schon deshalb ist Objektivität nicht erwiesen, sondern eher fraglich. Es bleibt im dunkeln, auf welche Quellen der Algorithmus sich stützt – auf Xing und Linkedin oder auch auf private Einträge in sozialen Medien. Vor allem aber sind Algorithmen nur so vorurteilsfrei wie die Daten, mit denen man sie speist. Amazon musste z. B. eine Software für die Personalauswahl wieder einstellen, weil sie Frauen diskriminierte.

Könnte der Gesetzgeber fordern, Algorithmen transparent zu machen?

Das ist eine ganz zentrale Frage. In den USA gab es bereits einige Fälle, in denen von den Anwälten in Strafverfahren Algorithmen hinterfragt wurden. Das endete, soweit ich weiß, immer ergebnislos, weil stets das Betriebs- bzw. Softwaregeheimnis vorgeschoben wurde.

Sehen Sie andere juristischen Möglichkeiten zur Rettung der Freiheits- und Menschenrechte vor Digitalisierung und KI?

Wenn es um den Umgang von privatwirtschaftlichen Konzernen mit persönlichen Daten geht, würde ich gern auf einen Vorschlag hinweisen, den der US-amerikanische Rechtsprofessor Jack Balkin gemacht hat: Er schlägt vor, dass Firmen die Daten, die sie massenhaft erhoben haben, nicht mehr wie bisher nutzen dürfen, sondern dass sie zu Datentreuhändern gemacht werden. Das würde bedeuten, sie müssen mit den Daten wie ein Arzt oder Anwalt mit den Daten seines Patienten oder Mandanten umgehen. Das würde zu einem fundamentalen Wandel im Verhältnis der IT-Konzerne zu ihren Nutzern führen. Vermutlich würden Konzerne wie Facebook dann eine Nutzungsgebühr verlangen müssen, um noch profitabel zu sein. Die Regelung würde dem Wert unserer Daten und der möglichen Langzeitwirkung ihres Missbrauchs jedoch deutlich besser gerecht werden, als es z. B. der Datenschutzgrundverordnung gelingt.

Im staatlichen Bereich halte ich einen ernsthaften »AfD-Test« für dringend nötig. Bei jeder neuen Befugnis für Sicherheitsbehörden wäre zu prüfen, ob sie auch in den Händen eines AfD-Innenministers verantwortbar wäre. Ich halte es außerdem für wichtig, dass neue Sicherheitsgesetze ein Verfallsdatum bekommen, wodurch die Beschränkung von Freiheitsrechten zumindest zeitlich limitiert würde. Man könnte neuen Sicherheitsgesetzen automatisch ein Ablaufdatum von z. B. zwei Jahren geben. Würde in diesem Zeitraum durch wissenschaftliche Studien keine Verbesserung der Sicherheit in einem Maße nachgewiesen, das den Verlust von Freiheitsrechten ausgleicht, würde das Gesetz automatisch außer Kraft treten. Die Beweislast läge dann beim Gesetzgeber und nicht bei Organisationen wie unserer, die derzeit die Unverhältnismäßigkeit eines Gesetzes nachweisen müssen, wenn sie es zu Fall bringen möchten.

Sie arbeiten seit zwei Jahren für die Gesellschaft für Freiheitsrechte (GfF). Auf welches Ergebnis aus dieser Zeit können Sie zurückblicken?

Ein ganz großes Highlight für mich war die mündliche Verhandlung vor dem Bundesverfassungsgericht über das BND-Gesetz im vergangenen Januar. Solche Verhandlungen sind selten. Jedes Jahr gehen Tausende Verfassungsbeschwerden ein, aber viel mehr als eine Handvoll mündlicher Verhandlungen pro Senat gibt es in der Regel nicht. Es ging dabei um die Überwachung durch den Bundesnachrichtendienst im Ausland. Das Verfahren war von uns in Zusammenarbeit mit einigen Journalistenverbänden angestoßen worden. Wir haben im Namen mehrerer ausländischer Journalisten und einer Journalistin geklagt. Dass das Bundesverfassungsgericht dafür zwei Verhandlungstage angesetzt hatte, war ein starkes Signal dafür, dass es unserer Verfassungsbeschwerde in weiten Teilen folgen könnte. Das war für uns als eine so junge Organisation ein riesiger Erfolg.

Spielen die Folgen der Digitalisierung in jedem Ihrer Verfahren eine große Rolle?

Die neuen Gefahren für unsere Freiheitsrechte durch den Einsatz digitaler Mittel machen tatsächlich einen großen Teil unserer Arbeit aus. Wir haben z. B. eine Klage beim EuGH eingereicht gegen die massenhafte Speicherung von Fluggastdaten, bewegen uns also nicht ausschließlich in Deutschland. Darüber hinaus haben wir aber auch diskriminierungsrechtliche Fälle, in denen es um Entgeltgleichheit oder den Schutz von Migrantinnen und Migranten geht, oder Fälle zum Schutz der Pressefreiheit und des Versammlungsrechts. Wir haben die Klage der Internetplattform »Linksunten.indymedia« gegen ihr Verbot mit einem sogenannten Amicus-Brief unterstützt; das ist ein Schreiben ans Gericht, mit dem ein am Verfahren Unbeteiligter Stellung nimmt. Derzeit unterstützen wir ein Verfahren des Demoz in Ludwigsburg (Demokratisches Zentrum Verein für politische u. kulturelle Bildung, jW), dessen Gemeinnützigkeit aberkannt werden soll. Wir versuchen auch über diesen Einzelfall hinaus zu erreichen, dass die Serie von Aberkennungen der Gemeinnützigkeit von Organisationen gestoppt wird.

Über Digitalisierung werden Sie als Referent auch beim Kongress der Neuen Gesellschaft für Psychologie mit dem Titel »›Digitalisierung‹ – Sirenentöne oder Schlachtruf der ›kannibalistischen Weltordnung‹« am 7. März in Berlin sprechen. Worüber genau?

Ich möchte Menschen vermitteln, wie unendlich die Möglichkeiten der Digitalisierung sind, in beide Richtungen – zum Guten wie zum Schlechten. Der Fokus liegt aber auf der die Freiheit bedrohenden Richtung; die andere Seite hat schon genug Lobbyisten. Ich rufe dazu auf, sich – auch wenn es anstrengend ist – mit der Digitalisierung zu befassen, mit der Nutzung durch Dritte ebenso wie mit der eigenen. Davon wird nicht nur unser weiteres Leben, sondern auch das folgender Generationen abhängen. Es wird darüber entscheiden, ob sie in einem digitalen Überwachungsstaat leben werden oder in einem, der die Freiheit achtet und die Technik zur Verbesserung des Lebens der Menschen nutzt.

Bijan Moini ist Rechtsanwalt und seit 2018 Syndikus der Gesellschaft für Freiheitsrechte. Im Januar erschien sein Buch »Rettet die Freiheit! Ein Weckruf im digitalen Zeitalter«, Atrium Verlag, 88 Seiten, 9 Euro

Kongress der Neuen Gesellschaft für Psychologie mit dem Titel »›Digitalisierung‹ – Sirenentöne oder Schlachtruf der ›kannibalistischen Weltordnung‹« vom 6. bis 7. März 2020 in Berlin

www.ngfp.de

Debatte

  • Beitrag von Hagen R. aus R. (22. Februar 2020 um 11:16 Uhr)
    Eine Regierung mit AfD-Innenminister könnte, wenn sie eine parlamentarische Mehrheit hat, Befugnisse für Sicherheitsbehörden ohnehin sehr schnell einführen.

    Viel wichtiger finde ich den Aspekt mit den Monopolen als quasistaatlichen Akteuren ohne Verfassung. Hier wäre es wichtig, staatliche transparente Alternativen zu diesen Monopolen aufzubauen, die demokratisch bestimmten Regeln unterliegen. Erst wenn diese funktionieren, kann man die privaten Akteure zu Zugeständnissen zwingen, weil man ihnen drohen kann, sie zur Not zu verbieten.

Ähnliche:

  • Streaming ist in: Telenet will mit dem Großverleger DPG Media »f...
    20.02.2020

    Streaming in Flandern

    Zwei Medienkonzerne planen einen Netflix-Konkurrenten im belgischen Teilstaat. Nationalisten begeistert
  • Unter Konkurrenzdruck: Konzernlenker Kallen (M.) mit seinem »Arb...
    18.04.2019

    Medienbosse zeigen Nerven

    Gefahr für Gesellschaft? Burda-Chef Kallen will Facebook und Co. regulieren

Mehr aus: Wochenendbeilage

Jetzt drei Wochen gratis im Probeabo!