Künstliche Intelligenz und Demokratie: Die Zukunft der Bürgerbeteiligung gestalten

Gastbeitrag von Sarah Delahaye und Charlotte Weber und unter Mitarbeit von Larissa Humbert.

Künstliche Intelligenz (KI) und Demokratie wirken auf den ersten Blick wie zwei Welten, die in ihrer Essenz kaum Berührungspunkte aufweisen. Während KI meist mit Automatisierung und Effizienz assoziiert wird, definiert sich die Demokratie über ihre Teilhabe und gesellschaftlichen Zusammenhalt. Mehr noch — KI wird im medialen Diskurs zunehmend als Risiko und mögliche Bedrohung statt als Chance betrachtet. Doch der technische Fortschritt macht die Rolle von KI in demokratischen Prozessen zunehmend bedeutsamer und bringt trotz kritischer Herausforderungen auch ein erhebliches Potenzial für die partizipative Demokratie mit sich. Von der Förderung einer breiteren Teilhabe bis hin zur Lösung komplexer gesellschaftlicher Fragen – KI hat die Kraft, Demokratie auf neue Weise zu gestalten.

In der Arbeitswelt analysiert KI große Datenmengen, hilft bei der Moderation von Online-Diskussionen und unterstützt Unternehmen bei organisatorischen Prozessen. Dabei bleibt jedoch klar: KI dient als Hilfsmittel und nicht als Ersatz für menschliche Expertise. Gerade in sensiblen Bereichen, wie der Moderation von Bürgerbeteiligungen und Teilhabeprozessen, ist das Feingefühl von Expert:innen unverzichtbar.

Wie bei jedem mächtigen Werkzeug jedoch, hängt der Nutzen von KI von einer verantwortungsvollen Entwicklung und Anwendung ab. KI-generierte Desinformation und täuschend echte Deep Fakes zeigen, wie angreifbar unsere Demokratien geworden sind. Ein Beispiel hierfür sind die jüngsten Präsidentschaftswahlen in der Slowakei, bei denen KI-generierte Aufnahmen des Kandidaten Michal Šimečka kursierten und sehr wahrscheinlich Einfluss auf das Wahlergebnis nahmen. Solch gezielte Fälschungen und die wiederholte Verbreitung von Desinformation tragen zur Erosion des gesellschaftlichen Vertrauens in politische Institutionen bei. Wie also kann KI eingesetzt und entwickelt werden, um unsere demokratischen Werte zu fördern und welche Maßnahmen sind notwendig, um sicherzustellen, dass sie der Gesellschaft als Ganzes dient?

Chancen von KI in der Bürgerbeteiligung

Genau in diesem Spannungsfeld zwischen Chancen und Risiken von KI setzt die Bürgerbeteiligungsplattform von Make.org an. Mit Hilfe der Plattform und der integrierten digitalen Werkzeuge soll ein niedrigschwelliger Zugang zur politischen Teilhabe geschaffen werden, der möglichst breite Bevölkerungsgruppen zur Mitgestaltung gesellschaftlicher Themen anregt. Die hier zum Einsatz kommende KI soll Prozesse transparenter, einfacher und für mehr Menschen zugänglich gestalten, um so dem Rückgang politischer Partizipation entgegenzuwirken. Ein besonderes Augenmerk wird auf Personen gelegt, die sonst politisch weniger aktiv sind. Zeitgleich wird darauf abgezielt, den Konsens zu fördern. Die Teilnehmer:innen werden dabei sowohl über breite Kommunikationskampagnen von Partner:innen und Netzwerken angesprochen, als auch über Werbung in den sozialen Medien. Ein großes Potenzial bieten zudem Medienpartnerschaften, die ein sogenanntes Widget auf ihren Seiten einbauen können und dadurch einen direkte Teilnahme ermöglichen, ohne dass die Besucher:innen die Seite verlassen müssen. Die Grundlage besteht also darin, die Menschen dort anzusprechen, wo sie (täglich) sind. Die Beteiligung wird dadurch so niedrigschwellig und offen wie möglich gestaltet: Alle Menschen sind dazu eingeladen, auf eine offene Frage zu antworten und konkrete Lösungsvorschläge zu machen. So wird sichergestellt, dass der Diskurs konstruktiv ist. Teilnehmer:innen können zudem alle Vorschläge der anderen Teilnehmer:innen einsehen. Über die Vorschläge kann mit »Daumen hoch«/»Daumen runter«/»Neutral« abgestimmt werden. Das ermöglicht es, beliebte und umstrittene Vorschläge zu identifizieren.

KI in der Bürgerbeteiligung: Barrieren für Partizipation abbauen

In vielen demokratischen Gesellschaften sinken die politischen Beteiligungsquoten, insbesondere unter jüngeren und marginalisierten Gruppen. Wie die Expertin Katja Muñoz in ihrem Artikel über Künstliche Intelligenz und Wahlen aufzeigt, bringt KI als Antwort darauf nicht nur Risiken mit sich, sondern eröffnet zugleich signifikante Chancen um die Teilhabe breiter Bevölkerungsgruppen an politischen Prozessen zu vereinfachen. So erleichtert sie etwa den Zugang zu Informationen und macht komplexe politische Zusammenhänge verständlicher — KI wird zu einer Stütze, um Inhalte niedrigschwellig und mehrsprachig bereitzustellen, Übersetzungen zu erleichtern und Zusammenfassungen von großen Datenmengen, etwa aus Sitzungen der Bundestagsabgeordneten, schnell und anschaulich zur Verfügung zu stellen. Auf diese Weise schafft KI eine neue Transparenz politischer Prozesse und richtet sich damit besonders an Bürger:innen, die sich bislang von der Fülle und Komplexität politischer Themen eher abgeschreckt fühlten.

Der KI-Experte David Mas hebt drei zentrale Potenziale von KI für die Bürgerbeteiligung in seinem Interview mit Hélène Landemore hervor:

• Den Zugang zu komplexen Informationen erleichtern
• Bürger:innen bei der politischen Partizipation unterstützen (Wie kann ich mich beteiligen? Wie mache ich einen guten Vorschlag?)
• Deliberative Verfahren ergänzen

In der Praxis bedeutet dies, dass KI nicht dazu dienen soll, direkte Bürgerbeteiligung zu ersetzen, sondern als ein unterstützendes Instrument eingesetzt wird, das die Hemmschwelle für eine aktive Mitwirkung senkt. So kann politische Partizipation nicht nur offline, sondern auch verstärkt online stattfinden. Immerhin nutzt die große Mehrheit der deutschen Bevölkerung täglich das Internet.

Transparenz durch KI: Das Beispiel Panoramic und der französische Bürgerrat zum Thema Sterbehilfe

Transparenz ist ein zentraler Pfeiler der Demokratie, doch sie wird zunehmend schwieriger aufrechtzuerhalten, je mehr Daten durch öffentliche Beteiligungsprozesse erzeugt werden. Wie KI den Zugang zu Informationen vereinfachen und somit die Bürgerbeteiligung erleichtern kann, zeigt sich am Beispiel eines Bürgerrates in Frankreich: 185 zufällig ausgewählte Bürger:innen kamen über mehrere Monate hinweg zusammen, um sich intensiv mit dem Thema Sterbehilfe auseinanderzusetzen und der Regierung fundierte Empfehlungen zu geben. Oft finden solche Bürgerversammlungen hinter verschlossenen Türen statt, und die komplexe Arbeit der Bürgerräte bleibt der breiten Öffentlichkeit verborgen. So werden Entscheidungen auf Grundlage dieser Empfehlungen von der Bevölkerung teilweise als wenig nachvollziehbar oder illegitim empfunden.

Um dieser Herausforderung entgegenzutreten und den Zugang zu solchen Beteiligungsprozessen zu erleichtern, hat Make.org Panoramic.ai entwickelt. Diese Plattform nutzt KI durch die Methode Retrieval-Augmented Generation (RAG). Damit können Bürger:innen gezielt Fragen stellen und erhalten Antworten, die auf geprüften und sicheren Daten basieren.

Wie funktioniert das genau?

Die Nutzer:innen stellen eine Frage und dann startet ein zweistufiger Prozess:

1. Retriever: Zunächst durchsucht der »Retriever« die Datenbank, also die vorhandenen Dokumente, nach relevanten Informationen zur Frage.
2. Generator: Anschließend erstellt ein Large Language Model (LLM) auf Basis der gefundenen Dokumente eine Antwort. Diese Antwort verwendet ausschließlich die eingepflegten, verlässlichen Daten.

Im Falle des französischen Bürgerrates wurde Panoramic.AI gezielt eingesetzt, um die Transparenz der Bürgerversammlungen zu fördern. Die Zielgruppe ist weitreichend: Bürger:innen, aber auch Abgeordnete und Medienvertreter:innen konnten so über die Plattform konkrete Fragen zu den Diskussionen und Entscheidungen des Rates stellen und erhalten präzise Antworten, die auf Originaldaten wie Protokollen oder Videoaufnahmen basieren. Das Besondere an Panoramic.AI ist, dass die KI jede Antwort mit einer genauen Quellenangabe versieht — sei es die exakte Textstelle in einem Dokument oder der genaue Zeitpunkt in einer Videoaufnahme. Sollte die KI auf eine Frage keine Antwort finden, meldet sie unmissverständlich: »Zu diesem Thema liegen mir keine Daten vor.«

Risiken und Herausforderungen: Die Schattenseite von KI in der Demokratie

Aller Chancen und Potenziale zum Trotz sollten die Risiken und Herausforderungen von KI nicht unterschätzt werden. Eine der besorgniserregendsten Bedrohungen ist die Möglichkeit, dass KI gezielt zur Verbreitung von Desinformation eingesetzt wird, sei es durch täuschend echt wirkende Deep Fakes oder algorithmisch bedingte Verzerrungen. Diese Risiken sind nicht nur theoretischer Natur – sie haben bereits reale Auswirkungen auf demokratische Prozesse. Ein Beispiel dafür bietet die brasilianische Präsidentschaftswahl 2018, in der manipulative Videos und Falschinformationen, die über soziale Netzwerke verbreitet wurden, die Wahlentscheidungen vieler Menschen beeinflussten. Die Verbreitung solcher KI-generierten Falschinformationen führt oft zu »alternativen Wahrheiten« und einer Fragmentierung der Realität, bei der unterschiedliche Bevölkerungsgruppen zunehmend in Echokammern leben und sich von einer gemeinsamen Basis an Fakten entfernen: Menschen erhalten Informationen, die ihre Ansichten bestätigen, und werden immer weiter in verzerrte Sichtweisen gedrängt. So entsteht Misstrauen gegenüber politischen Institutionen, und das Vertrauen in die Demokratie als Ganzes wird geschwächt.

Über das Beispiel an Wahlen hinaus birgt KI weitere Risiken, etwa wenn große Datenmengen ausgewertet und daraus automatisierte Entscheidungen abgeleitet werden. Da KI nur so gut ist wie die Daten, mit denen sie trainiert wurde, können in diesen Systemen bestehende Vorurteile – sogenannte Biases – unbemerkt verstärkt werden. Ein bekanntes Beispiel dafür ist der (inzwischen eingestellte) Recruiting-Prozess von Amazon, bei dem Frauen systematisch benachteiligt wurden, weil die KI anhand von männerdominierten Datensätzen trainiert war.

Das Democratic Shield zum Schutz vor Desinformation in Wahlen

Eine Initiative, die solchen Gefahren aktiv entgegenwirken soll, ist das Democratic Shield von Make.org — ein Schutzsystem, das darauf ausgelegt ist, Desinformation aufzuspüren und zu neutralisieren. Im Rahmen einer Arbeitsgruppe entwickelte Make.org zehn Maßnahmen, um die EU-Wahlen 2024 zu schützen. Dieses »demokratische Abwehrschild« stärkt die Resilienz gegenüber Bedrohungen wie Desinformation und fördert Transparenz, Aufklärung und digitale Sicherheit, um die Integrität der Wahlen zu gewährleisten. Langfristig liegt jedoch die eigentliche Herausforderung darin, dass demokratische Institutionen, Technologieunternehmen und die Zivilgesellschaft gemeinsam an ethischen Standards und Mechanismen arbeiten. Nur durch diese Zusammenarbeit lassen sich nachhaltige Maßnahmen entwickeln, um Desinformation einzudämmen und das Vertrauen in demokratische Prozesse zu bewahren.

Das Forschungsprogramm Democratic Commons: KI im Sinne der Demokratie

Die rasante Entwicklung der KI wird das Leben und die demokratischen Prozesse der Zukunft zunehmend prägen. Um sicherzustellen, dass diese Technologien demokratische Werte stärken statt gefährden, hat Make.org gemeinsam mit der Sciences Po, der Sorbonne und dem Nationalen Zentrum für Wissenschaftliche Forschung (CNRS) das Forschungsprogramm »Democratic Commons« ins Leben gerufen. Dieses internationale Projekt hat das Ziel, KI im Sinne der Demokratie zu nutzen und die digitale Teilhabe der Bevölkerung zu fördern. Es zielt direkt auf die dringende Notwendigkeit vertrauenswürdiger, transparenter und ethischer KI-Tools innerhalb globaler öffentlicher Institutionen ab.

Democratic Commons bringt führende Expert:innen aus den Bereichen Datenwissenschaft und Sozialwissenschaften zusammen und verfolgt einen multidisziplinären Ansatz. Über einen Zeitraum von drei Jahren werden mehr als 50 Forscher:innen sowie Ingenieur:innen gemeinsam an der Entwicklung förderlicher Anwendungen generativer KI für die Demokratie arbeiten und gleichzeitig tiefgehende Studien zu demokratischen Verzerrungen generativer KI durchführen, die ihre Effektivität beeinträchtigen könnten.

Diese Innovationen versprechen, die Art und Weise, wie Bürger:innen mit demokratischen Prozessen interagieren, grundlegend zu verändern und die Teilhabe inklusiver, informierter und wirkungsvoller zu gestalten. Democratic Commons wird unterstützt von: Hugging Face, Aspen Institute, Mozilla.ai, Project Liberty Institute und Genci. Ein wissenschaftlicher Beirat, bestehend aus renommierten internationalen Persönlichkeiten, validiert die Qualität der erzielten Ergebnisse. Zu den Mitgliedern des Komitees zählen Expert:innen wie Yochai Benkler (Berkman Klein Center) und Hélène Landemore (Yale). Das Programm ist eines von sieben neuen Projekten, die im Rahmen des »Digital Commons for Generative AI«-Aufrufs von Bpifrance im Zuge des Investitionsplanes Frankreich 2030 ausgezeichnet wurden.

Ein Ausblick: KI als Werkzeug für eine inklusive Demokratie

Die bisherigen Projekte zeigen, wie bedeutend der Beitrag von KI zur Stärkung demokratischer Strukturen sein kann – jedoch nur, wenn sie verantwortungsvoll und ethisch eingesetzt wird. »Democratic Commons« ist ein zentraler Schritt in diese Richtung, indem es daran arbeitet, KI zu einem Instrument für eine transparente, faire und inklusive Demokratie zu machen. In Kooperation mit Forschungseinrichtungen und sozialen Plattformen hat es sich Make.org zur Aufgabe gemacht, neue Standards und Anwendungen, die das Vertrauen in demokratische Institutionen stärken und die Bürgerbeteiligung fördern. So wird KI nicht nur eine technische Innovation, sondern auch eine treibende Kraft für eine gerechtere, zukunftsorientierte Gesellschaft.

Weiterführendes von ÖFIT:

Das Gemeinwohl-Potenzial digitaler Assistenten

Als datengesteuerte Navigatoren werden digitale Assistenten im Alltag immer wichtiger. Sie können aus einer wachsenden Datenmenge schöpfen und mit neuen Methoden des Maschinellen Lernens immer mächtigere und individueller zugeschnittene Empfehlungen geben. Dadurch gestalten sie nicht nur den persönlichen Alltag, sondern beeinflussen auch gesellschaftliche Trends. Unser White Paper beleuchtet, wie digitale Assistenten funktionieren, wie Werte ihre Informationsvermittlung prägen und welchen Beitrag sie zum Gemeinwohl leisten können.

Digitaler Wandel und Weiterbildung in Stadt und Land

Dezember 2024: Nutzen Sie Weiterbildungsangebote, um Ihre digitalen Fähigkeiten zu erweitern? Laut den aktuellen Ergebnissen unserer repräsentativen Umfrage stehen Befragte, die dies tun, dem digitalen Wandel positiver gegenüber und haben eine bessere Vorstellung von den Anforderungen, die dieser an sie stellt. Warum der Großteil dennoch keine Weiterbildungsangebote nutzt und welche Unterschiede es zwischen Stadt und Land gibt, erfahren Sie in unserer Auswertung.

Verbündetes Lernen

Nicht mehr: »Das geht nicht wegen Datenschutz!« – das ist unter anderem die Hoffnung, die in einem recht jungen Lernparadigma für Künstliche Intelligenz (KI) steckt: federated Learning (FL) auf Deutsch in etwa »verbündetes Lernen«. Der Ansatz adressiert eine der größten Herausforderungen für das Training von KI: Es müssen ausreichend hochwertige Daten vorliegen, schließlich hängt die Qualität des Outputs wesentlich von diesen ab. Diese werden bei traditionellen Lernmethoden häufig aus vielen Quellen gesammelt und zentralisiert auf einem Server gespeichert – was problematisch werden kann, wenn die Daten vertrauenswürdige Informationen beinhalten und nicht geteilt werden dürfen.

Veröffentlicht: 15.01.2025