Ist der Einsatz von KI eine gute Idee?

Wer kennt sie nicht, die KI-Stimme am Telefon? Nun kommt künstliche Intelligenz zunehmend in hessischen Kommunalverwaltungen zum Einsatz. Werden Bürgerinnen und Bürger damit zu Versuchskaninchen?

Zu befürchten ist der Einsatz unqualifizierter KI, etwa dadurch, dass Kommunen selbst etwas basteln und eine KI noch in der Anlernphase auf Bürgerinnen und Bürger loslassen. Ein orientierungsloser KI-Bot der Frankfurter Entsorgungs- und Service GmbH reagierte auf die telefonische Terminanforderung einer Bürgerin für Sperrmüll zum Beispiel so: Ein Termin war bereits gefunden, doch statt diesen zu bestätigen, hieß es: Es stünde keiner zur Verfügung. Beim zweiten Versuch erfragte die KI erneut die Adresse. Als die Anruferin einen Mitarbeiter sprechen wollte, machte der Bot daraus »Waldstraße mit einer Nummer« und beendete das Gespräch. Bei einem weiteren Anruf wurde das Missverständnis schließlich von einer Mitarbeiterin des Servicecenters der Stadtverwaltung behoben.

Das klingt anstrengend.

Genau. Zeitaufwände hierfür werden Bürgerinnen und Bürgern nicht erstattet. Ein klassisches Problem der KI: Statt zu sagen, »ich weiß es nicht«, ist sie darauf programmiert, auf Basis der Wahrscheinlichkeit eine Antwort zu finden. Fragt sich, warum KI-Systeme eingesetzt werden, wenn ein Schüler der dritten Klasse ein besseres Ergebnis hätte liefern können.

Ist Datenschutz gegeben?

Nein. Ohne Einwilligung oder eine andere Rechtsgrundlage zum Datenschutz füttert jede Nutzerin und jeder Nutzer mit seinen personenbezogenen Daten diese Systeme. Die Stadt täte gut daran, solch rechtswidrige Praktiken nicht anzuwenden. Denn ergänzt KI sich selbst durch andere KI-Resultate, sinkt ihre Qualität. Haben behördliche Datenschutzbeauftragte Kompetenz und Ressourcen, um die KI und deren Einsatz qualifiziert zu überwachen? Politikerversprechen, denen zufolge personenbezogene Daten nicht in die KI einfließen, gehen ins Leere, etwa wenn die KI Akten bearbeitet oder Protokolle durchsieht.

Die KI soll Beschäftigte entlasten und Abläufe beschleunigen, sagen Befürworter. Aber braucht es mitunter nicht sogar mehr Personal, um Missverständnisse zu klären?

Wenn hessische Kommunen eigene Systeme einsetzen, binden diese in der Frühphase Ressourcen der Beschäftigten zum Anlernen. Der dringende Wunsch nach Entlastung könnte Mitarbeiter dazu verführen, kostenfreie Versionen von Chat-GPT irregulär zu nutzen.

Das Ziel sei nicht, Mitarbeiter zu ersetzen, behaupten CDU-Politiker wie etwa der Oberbürgermeister von Rüsselsheim am Main, Patrick Burghardt.

Schon. Aber wer garantiert Mitarbeitenden, dass sie sich nicht selbst überflüssig machen, nachdem die KI hinreichend angelernt ist? Da stellt sich auch die Frage nach Dienstvereinbarungen mit den Personalräten für eine Beschäftigungssicherung.

In Offenbach soll ein KI-gestützter Telefonassistent im Ausländeramt eingesetzt werden, damit Migrantinnen und Migranten in unterschiedlichen Sprachen kommunizieren können. Dabei geht es oft um existenzielle Fragen wie ihr Bleiberecht. Ist das eine gute Idee?

Ich bin nicht grundsätzlich gegen den Einsatz von KI. Wenn sie qualitativ auf einem guten Entwicklungsstand ist, Entscheidungen nur vorbereitet und nicht trifft, kann sie von Vorteil sein. Sie errechnet gleichförmig Ergebnisse nach Wahrscheinlichkeit. Aber wichtig ist: Mitarbeiter müssen die Qualifikation, den Mut und die Fachkompetenz dazu haben, den KI-Vorschlag in Frage zu stellen und Entscheidungen abzuändern. KI soll und kann dies nicht ersetzen.

Die FDP will »das Ganze gewissermaßen industriell in allen Kommunen auszurollen, um die Effizienzgewinne zu heben«, sagte Oliver Stirböck, Parlamentarischer Geschäftsführer der Liberalen im Landtag, dem Hessischen Rundfunk Ende Juli. Was halten Sie davon?

Nichts. Die FDP stellt so eine außergewöhnliche Technikgläubigkeit in den Raum. Die Effizienz von KI hängt letztlich davon ab, ob es qualifizierte Anforderungsprofile an deren Entwicklung gibt und geschultes Personal damit umgehen kann.