Wie nachhaltig ist meine KI?

Gastbeitrag von Dr. Anne Mollen und Kilian Vieth-Ditlmann .

Künstliche Intelligenz ist in aller Munde, nicht nur durch die KI-Verordnung der EU. Damit stellt sich aber immer dringlicher die Frage, wie nachhaltig die von Unternehmen und Organisationen eingesetzten KI-Systeme sind. Der Ressourcen- und insbesondere der Energieverbrauch von KI kann immens sein. In Zeiten einer Energie- und Klimakrise dürfen wir also ihre ökologischen Auswirkungen nicht unter den Teppich kehren. Die Systeme lassen auch in sozialer und ökonomischer Hinsicht in puncto Nachhaltigkeit zu wünschen übrig: In der KI-Industrie konzentriert sich die Marktmacht auf wenige Großunternehmen, was zu Zugangsbarrieren für kleinere Unternehmen führt, entlang der KI-Wertschöpfungskette herrschen ausbeuterische Arbeitsbedingungen, mithilfe von KI automatisierte Entscheidungen können zu Diskriminierung oder zu einer kulturellen Dominanz westlicher Werte führen, die KI-Systeme in der ganzen Welt latent propagieren.

In dem Projekt »SustAIn: Der Nachhaltigkeitsindex für Künstliche Intelligenz« haben wir erstmalig einen umfassenden Entwurf vorgelegt, mit dem sich die Nachhaltigkeit von KI-Systemen bewerten und verbessern lässt. Damit möchten wir einen Beitrag dazu leisten, dass bei der Entwicklung und beim Einsatz von KI Nachhaltigkeit praktisch umgesetzt wird. Mit unserem Self-Assessment-Tool geben wir Organisationen einen Fragebogen an die Hand, mit dem sie prüfen können, wie nachhaltig ihre KI-Systeme sind. Mit dem Ampel-System können sie ihre Antworten einordnen. Außerdem geben wir Empfehlungen, wie sich die Systeme nachhaltiger gestalten lassen.

Der Kriterienkatalog

Als Grundlage für den Fragebogen des Self-Assessment-Tools dienen die im SustAIn-Projekt entwickelten Kriterien und Indikatoren, die den aktuellen Diskussionstand zur sozialen, ökologischen und ökonomischen Nachhaltigkeit von KI-Systemen widerspiegeln. Wir haben 13 übergeordnete Kriterien zur Bewertung der Nachhaltigkeit von KI-Systemen identifiziert. Diese Kriterien sind in über 40 Indikatoren aufgeschlüsselt und so operationalisiert, dass sie praktisch anwendbar sind.

Ein Beispiel: Das soziale Nachhaltigkeitskriterium »Selbstbestimmung und Datenschutz« umfasst den Indikator »Sicherstellung der informationellen Selbstbestimmung«. Diese Selbstbestimmung lässt sich dadurch umsetzen, dass die von KI-Systemen Betroffenen erfahren, wie ihre personenbezogenen Daten von den Systemen genutzt werden. Ihnen sollte die Kontrolle über die Verwendung dieser Daten eingeräumt werden – beispielsweise über Opt-in- oder Opt-out-Funktionen. In den aktuellen Diskussionen um große Sprachmodelle und Chatbots wie ChatGPT und die massenhafte Nutzung von geschützten Daten zum Training dieser Systeme ist immer wieder deutlich geworden, wie wichtig solche Ansätze sind, um zu verhindern, dass personenbezogene Daten missbraucht oder Urheberrechte verletzt werden.

Die 13 Nachhaltigkeitskriterien für KI-Systeme

• Transparenz und Verantwortungsübernahme
• Nicht-Diskriminierung und Fairness
• Technische Verlässlichkeit und menschliche Aufsicht
• Selbstbestimmung und Datenschutz
• Inklusives und partizipatives Design
• Kulturelle Sensibilität

• Marktvielfalt und Ausschöpfung des Innovationspotenzials
• Verteilungswirkung in Zielmärkten
• Arbeitsbedingungen und Arbeitsplätze

• Energieverbrauch
• CO2- und Treibhausgasemissionen
• Nachhaltigkeitspotenziale in der Anwendung
• Indirekter Ressourcenverbrauch

Der Fragebogen

Der Fragebogen des Self-Assessment-Tools ergab sich aus diesem Set an Kriterien, Indikatoren und Operationalisierungen. Nicht alle Fragen darin sind für alle KI entwickelnden oder KI einsetzenden Organisationen relevant. Wenn eine Organisation KI-Systeme herstellt, die keine direkten Entscheidungen über Menschen treffen, sondern zum Beispiel nur in Industrieprozessen eingesetzt werden, erübrigen sich Fragen zu deren Fairness. Insgesamt müssen Organisationen zwischen 48 bis maximal 66 Fragen beantworten, um eine Bewertung der Nachhaltigkeit ihrer KI-Systeme zu erhalten. Sie sollen etwa angeben, ob sie einem »Code-of-Conduct« folgen, der grundlegende Werte und Normen bei der Implementierung und Nutzung von KI-Systemen aufführt, oder auch, ob für die von ihnen genutzten Rechenzentren und die Hardware Nachhaltigkeitszertifizierungen vorliegen. Da dem Fragebogen ein weit gefasstes Verständnis von Nachhaltigkeit zugrunde liegt, deckt er sehr unterschiedliche Bereiche ab. Vermutlich müssen die Fragen also von mehreren Ansprechpersonen in der Organisation beantwortet werden.

Die Auswertung

Die Ergebnisse des Self-Assessment-Tools werden den Organisationen am Ende des Fragebogens als PDF-Download zur Verfügung gestellt. Sie sind nicht für Dritte einsehbar und werden nicht gespeichert. Unsere Grafiken sollen den Organisationen eine Orientierung darüber bieten, in welchen Bereichen es gut um die Nachhaltigkeit ihrer KI-Systeme bestellt ist und wo es Nachbesserungsbedarf gibt. Die Auswertung des Fragebogens erfolgt nach einem Punktesystem. Wir haben uns aufgrund der Komplexität und Vielschichtigkeit des Themas dagegen entschieden, aus den Antworten einen Nachhaltigkeitsscore zu ermitteln. Stattdessen liefern wir den Organisationen eine granulare, d.h. differenzierte Bewertung, die KI-Produkten kein »grünes« Label verpasst, sondern die Organisationen, die sie entwickeln oder anwenden, für die Nachhaltigkeit ihrer Systeme sensibilisieren soll.

Die Empfehlungen

Unser Online-Tool zur Selbstbewertung gibt Organisationen auch konkrete Handlungsempfehlungen. Es gibt kein Patentrezept für die Nachhaltigkeit von KI. Vielmehr muss von Fall zu Fall entschieden werden, wodurch die Systeme nachhaltiger gestaltet werden könnten. Viele Mikroentscheidungen im Planungs- und Entwicklungsprozess sind dazu notwendig – und nicht nur technische Maßnahmen. In den Organisationen muss vor allem ein Kulturwandel stattfinden, durch den Nachhaltigkeit in den vielen anfallenden Entscheidungen zur Leitlinie wird. Solch ein Wandel muss geplant, moderiert, durchgeführt, evaluiert und auch technisch umgesetzt werden. Unser Tool soll den Weg dazu ebnen.

Wie geht es weiter?

Durch die KI-Verordnung drängt die Europäische Union auf nachhaltige KI-Systeme. Auch abseits von solchen regulatorischen Ansätzen sollten alle Organisationen sich mit der Nachhaltigkeit ihrer KI-Systeme auseinandersetzen. Wir müssen nämlich jetzt handeln, bevor wir nicht-nachhaltige KI-Ökosysteme etablieren, die sich nicht so einfach wieder modifizieren lassen. In Erwartungen weiterer regulatorischer Maßnahmen werden bereits verschiedene Branchenstandards im Hinblick auf die Nachhaltigkeitsanforderungen an KI-Systeme neu verhandelt. Mit dem im SustAIn-Projekt entwickelten Nachhaltigkeitsansatz wollen wir diese Entwicklung unterstützen.

Zum Tool geht's hier: https://sustain.algorithmwatch.org/bewertungstool/

Dieser Artikel erschien zuvor bereits im SustAIn-Magazin #3 im Herbst 2023, das hier angesehen werden kann.

Weiterführendes von ÖFIT:

Nachhaltigkeitscanvas interaktiv

Das Nachhaltigkeitscanvas gibt es nun auch als kostenloses, interaktives Onlinetool! Das von ÖFIT 2023 im White Paper »Wertebasierte Digitalisierung für nachhaltige Entwicklung im öffentlichen Sektor« entwickelte Canvas ermöglicht die Einschätzung von geplanten oder sich in Entwicklung befindlichen Digitalisierungsprojekten des öffentlichen Sektors auf ganzheitliche Nachhaltigkeitsaspekte.

Trendsonar Künstliche Intelligenz

2018: Wer KI einsetzen will, muss die zugrunde liegenden Technologien kennen und bewerten können. Das ÖFIT-Trendsonar Künstliche Intelligenz erlaubt den direkten Vergleich von derzeitigen und zukünftigen Technologietrends. Es bietet einen Überblick für all diejenigen, die sich mit den Entwicklungen in der Künstlichen Intelligenz vertraut machen möchten.

Das Gemeinwohl-Potenzial digitaler Assistenten

Als datengesteuerte Navigatoren werden digitale Assistenten im Alltag immer wichtiger. Sie können aus einer wachsenden Datenmenge schöpfen und mit neuen Methoden des Maschinellen Lernens immer mächtigere und individueller zugeschnittene Empfehlungen geben. Dadurch gestalten sie nicht nur den persönlichen Alltag, sondern beeinflussen auch gesellschaftliche Trends. Unser White Paper beleuchtet, wie digitale Assistenten funktionieren, wie Werte ihre Informationsvermittlung prägen und welchen Beitrag sie zum Gemeinwohl leisten können.

Veröffentlicht: 27.11.2024