Nachlese: "Künstliche Intelligenz politisch gestalten"

Diskussionsveranstaltung mit Bundestagsabgeordneten am 15.10.2018

#KIpol

Welche politischen Fragen wirft der Einsatz Künstlicher Intelligenz auf?

Ausgangspunkt der Diskussionsveranstaltung mit den Bundestagsabgeordneten Mario Brandenburg (FDP), Anke Domscheit-Berg (DIE LINKE) Saskia Esken (SPD), Renate Künast (Grüne) und Andreas Steier (CDU) war eine vom Kompetenzzentrum Öffentliche IT durchgeführte Foresight-Studie, in der vier Zukunftsszenarien zu den Auswirkungen von KI in der öffentlichen Verwaltung formuliert werden. Ziel der Veranstaltung war es, ausgehend von den Szenarien die politischen Gestaltungsbedarfe und -möglichkeiten von Künstlicher Intelligenzen (KI) zu erörtern. Die Diskussionsfragen waren gesamtgesellschaftlich orientiert und nicht ausschließlich auf die Verwaltung beschränkt.

Eine Kurzübersicht der KI-Szenarien können Sie hier herunterladen: Kurzübersicht KI-Szenarien

Die Foresight-Studie kann hier heruntergeladen werden: Foresightstudie Exekutive KI 2030

Im ersten Szenario herrscht 2030 ein KI-Boom. Künstliche Intelligenz wird überall eingesetzt und das Vertrauen und die Zuversicht sind hoch. KI trifft teils eigene Entscheidungen oder übernimmt die Entscheidungen in kritischen Bereichen dem Menschen komplett ab. Damit der KI ausreichend Daten für gute Entscheidungen vorliegen, wird die Offenlegung in bestimmen Bereichen obligatorisch. Durch die Bildung von Trainingsdatenpools und Assessment der Systeme im Betrieb werden höchste Qualitätsstandards erreicht und es wird sichergestellt, dass die Entscheidungen den (gesetzlichen, gesellschaftlichen) Anforderungen entsprechen. Die Frage nach den langfristigen, übergeordneten politischen Zielen des umfassenden KI-Einsatzes gerät in den Hintergrund. Im zweiten Szenario wurden ideale Voraussetzungen für KI-Entwicklung und Einsatz geschaffen. Es gibt eine Umfangreiche Open-Data Infrastruktur, die Wirtschaft, Verwaltung und Zivilgesellschaft vollumfänglich nutzen können. Der KI-Einsatz konnte jedoch - anders als ursprünglich erwartet - keinen Beitrag zur Lösung drängender gesellschaftlicher Fragen leisten. Die Folge ist eine generelle Ernüchterung im Hinblick auf den in Aussicht gestellten konkreten Mehrwert im Alltag der Menschen. Eine Überforderung der Bevölkerung und Unfälle bei dem Umgang mit KI haben das negative Image verstärkt. In der Folge wird sie in der Verwaltung, wenn überhaupt, nur vereinzelt zur Unterstützung in ausgewählten Bereichen eingesetzt. Im dritten Szenario greift der deutsche Staat, aufgrund einer Wirtschaftskrise finanziell geschwächt, zu KI-Lösungen, um durch die Effizienzsteigerungen öffentliche Leistungen überhaupt noch aufrechterhalten zu können. Die Systeme kommen jedoch "von der Stange", also ohne kontextspezifische, angemessene Implementierung im jeweiligen Anwendungsfeld. Die Daten für die KI-Systeme stammen häufig von kommerziellen Plattformen, da eine eigene Erhebung bzw. Aufbereitung der vorhanden Datenbestände zu teuer wäre. Formal werden hier die Entscheidungen zwar immer noch von Menschen getroffen und verantwortet. Aufgrund der hohen Arbeitsbelastung entscheidet faktisch aber die KI. An die resultierenden Fehlentscheidungen sind die BürgerInnen gewöhnt. Die "Staats-KI" beschreibt das vierte Szenario. Hier sehen wir hohe staatliche Investiotionen gepaart mit einer staatszentrierten, starken staatlichen Steuerung des KI-Sektors. Das Ziel ist die Erweiterung staatlicher Handlungskapazitäten durch den KI-Einsatz sowie die nationale Unabhängigkeit von ausländischen Technologieanbietern. KI wird großflächig im öffentlichen Sektor eingesetzt und hat sich beispielsweise positiv auf die Bearbeitungszeiten von Verwaltungsvorgängen ausgewirkt. In der Privatwirtschaft wird die Nutzung von personenbeziehbaren Daten und KI stark reguliert, während für die staatlichen Prozesse umfassende Zugriffsrechte auf Daten bestehen. Es herrschen strenge Governance- und Compliance-regelungen bei Forschung, Entwicklung und Einsatz von KI-Systemen.

Beim staatlichen Einsatz von KI ergeben sich zusätzliche Anforderungen. So lässt sich kaum eine akzeptable Fehlerquote definieren, selbst wenn die Verwaltungsleistungen insgesamt besser werden. Das Vertrauen komme, nach Andreas Steier, über die gute Regulierung. Ähnlich wie bei einer Brücke, die heute niemand mehr auf ihre Tragfähigkeit hinterfrage, da diese bezogen auf die Statik gesetzlichen Anforderungen entsprechen muss. Eine Fehlerkultur müsse zwar ermöglicht werden, die Risiken und Konsequenzen dürften aber nicht die Bürger:innen tragen. Skepsis und Unbehagen in der Bevölkerung seien auch vor dem Hintergrund nachvollziehbar, dass KI-Systeme in der praktischen Anwendung des Staates überwiegend Bestrafungs- und Kontrollfunktionen erfüllen würden, so Anke-Domscheit-Berg. Leitlinie für Gestaltung und Regulierung von KI müsse die Fragestellung sein, wie wir unsere Achtung der Grundrechte und unsere Ethik von der analogen in die digitale Zeit übertragen können. Wichtig dafür seien Nachvollziehbarkeit der Entscheidungsparameter sowie Transparenz der Datengrundlage - zwei für die Entwicklung und Nutzung von KI-Systemen grundlegende und mittlerweile etablierte Gestaltungsanforderungen, bei denen auch der Gesetzgeber aktiv werden kann. In der Debatte wurde somit deutlich, welch zentrale Rolle Regulierung und politische Steuerung auch bei der Entstehung von Vertrauen in der Bevölkerung spielen können. Regulierung muss dabei nicht lediglich als Abwehrinstrument verstanden werden, sie kann auch ermöglichend im Sinne von Anreizen wirken. Im Zusammenhang mit dem "öffentlichen Datenschatz" wies Saskia Esken beispielsweise darauf hin, dass im Nachgang zur DSGVO noch offen ist, wie wir gesamteuropäisch Daten zur Verbesserung des Lebens in der Gesellschaft einsetzten wollen und hier noch Handlungsbedarf bestehe. Unterschiedlich wird die Rolle der privaten Wirtschaft bewertet.

Über technische Detailfragen hinausgehend drehte sich die Debatte immer wieder auch um die Wirkung von regulatorischen Rahmenbedingungen für den Wirtschaftsstandort Deutschland und den Umgang mit privatwirtschaftlichen Akteuren. Während auf der einen Seite darauf hingewiesen wird, dass wir auf das privatwirtschaftliche Knowhow nicht verzichten könnten, sieht die andere Seite die daraus folgende Abhängigkeit und die Verwendung von „Blackboxes" insbesondere im öffentlichen Sektor als problematisch an. Renate Künast wies in diesem Zusammenhang darauf hin, dass eine starke Regulierung auf lange Sicht einen Wettbewerbsvorteil darstellen kann, da die Folgen von schwach regulierter KI nicht absehbar seien. Diese Gesichtspunkte spiegelten die Kernunterschiede der Debatte gut wieder: Die Rolle der Privatwirtschaft und des freien Marktes sowie das Maß der staatlichen Steuerung wurden unterschiedlich bewertet. Allgemein wurde aber abschließend betont, dass man sich im Kontext von KI mit gesellschaftlichen Fragen auseinandersetzen müsse.