Erfühlbare KI

Die Ergebnisse im Einzelnen

Künstliche Intelligenz ruft große Erwartungen und negative Emotionen hervor – eine ambivalente Bilanz

Wenn Maschinen Entscheidungen treffen, ruft dies bei der überwiegenden Mehrheit der Bürger:innen Unbehagen hervor. Sie fühlen sich fremdbestimmt, unsicher oder verloren. KI-Systeme sollten daher vorwiegend unterstützend eingesetzt werden. Zugleich wird der Einsatz von KI in vielen Anwendungsfeldern positiv bewertet. Auch für den Staat, also für die zukünftige Gestaltung von Verwaltungsabläufen, das Verhältnis zwischen Bürgern und Staat und die Verantwortlichkeit für öffentliche Aufgaben werden grundlegende Änderungen erwartet.

Mensch oder Maschine?

Künstliche Intelligenz umgibt etwas Mystisches. Wenn KI-Systeme in einem unüberschaubaren Berg an Daten plötzlich Muster erkennen oder aus vergangenem Verhalten Prognosen für die Zukunft erstellen, stehen wir oft staunend davor und fragen uns nicht selten: »Wie ist das möglich?«. Wenn diese Systeme dann noch Entscheidungen treffen, die konkrete Auswirkungen auf die Bürger:innen haben, kommen schnell auch negative Gefühle hinzu. So fühlen sich neun von zehn Personen bei maschinellen Entscheidungen fremdbestimmt. Acht von Zehn fühlen sich sogar verloren. Wird dieselbe Entscheidung von einem Menschen getroffen, sind die Gefühle positiver. 56% empfinden sie als selbstbestimmt und ebenso viele fühlen sich dabei geborgen. Mit Blick auf verschiedene Emotionen, die Entscheidungen auslösen können, fühlen sich die Befragten mit menschlichen Entscheidungen in nahezu allen Aspekten wohler als mit maschinellen. Einzig im Hinblick auf Neutralität haben die Maschinen mit 56% zu 53% gegenüber menschlichen Entscheidungen die Nase vorn.

Diese Skepsis gegenüber maschinellen Entscheidungen ist erstaunlich stabil. Die negativen Gefühle überwiegen unabhängig von Alter, Bildung, Wohnort, Einkommen, Geschlecht und KI-Nutzung deutlich.

Daher ist es auch nicht überraschend, dass es 86% der Befragten nicht egal ist, von wem eine Entscheidung getroffen wird.

Licht und Schatten der KI

KI-Anwendungen kommen in immer mehr Lebensbereichen zum Einsatz. Die damit verbundenen Potentiale, drängende Aufgaben anzupacken und Prozesse zu optimieren werden von der Bevölkerung wahrgenommen. Das äußert sich darin, dass trotz negativer Emotionen viele Hoffnungen mit KI-Systemen verbunden werden. So erwarten jeweils etwa acht von zehn Personen positive Wirkungen durch den Einsatz von KI in Verkehr, Gesundheitsversorgung oder Bildung und Forschung. Beim Thema Innere Sicherheit sind es immerhin noch knapp zwei Drittel.

Zugleich befürchten die Befragten jedoch auch negative Effekte insbesondere aus gesamtgesellschaftlicher Perspektive. Sie befürchten negative Auswirkungen auf Wohlstand und Verteilung (60%), den gesellschaftlichen Zusammenhalt (68%) und die sozialen Kontakte (73%).

Die Befragten erwarten zudem bedeutende Änderungen für den Staat. So glauben 72%, dass der Einfluss von KI-Anbietern wachsen wird. Etwa 65% gehen außerdem davon aus, dass mit dem Einsatz von KI öffentliche Aufgaben privatisiert werden. Zugleich erwarten 61%, dass durch KI Verwaltungshandeln transparenter wird. Eine größere Nähe zwischen Staat und Bürger:innen erwarten jedoch nur 40%.

KI ja, aber…

Aus dieser Gesamtbetrachtung heraus ist es nicht überraschend, dass knapp zwei Drittel der Befragten (65%) denken, dass KI in der Verwaltung nur unterstützend eingesetzt werden sollte. Jeder Fünfte wünscht sich sogar, dass KI gar nicht zum Einsatz kommen soll. Nur etwa jeder Zehnte findet, dass KI auch selbst entscheiden können sollte (11%). Immerhin 4% befürworten sogar, dass eine Verwaltungs-KI ihre eigenen Regeln aufstellen darf.

Daraus wird deutlich, dass KI-Systeme noch viel Vertrauen aufbauen müssen, bevor sie massentauglich werden.

Diese Zahlen basieren auf zwei repräsentativen Bevölkerungsumfragen im Auftrag des Kompetenzzentrums Öffentliche IT mit 1.007 Befragten im September 2018 und 1.008 Befragten im Dezember 2017.

Wir geben in unregelmäßigen Abständen repräsentative Bevölkerungsumfragen zu aktuellen gesellschaftsrelevanten digitalen Themenfeldern in Auftrag. Hier finden Sie die Auswertungen und Ergebnisse dazu.

Die Ergebnisse und Grafiken stehen unter cc-by Lizenz. Sie können sie unter Nennung der Quelle nutzen und weiterverbreiten.

Weitere Auswertungen und Ergebnisse werden in den kommenden Wochen an dieser Stelle sowie auf Twitter @OeffentlicheIT sukzessive veröffentlicht.

Sie haben Fragen? Wenden Sie sich gern an uns: Kontakt