Wie nachhaltig ist Künstliche Intelligenz?
Systeme der Künstlichen Intelligenz sind aus unserem Alltag inzwischen kaum mehr wegzudenken. Sie begleiten uns beim Nutzen Sozialer Medien, beim Navigieren oder beim Online-Shopping. Aber wie sieht es eigentlich mit der Nachhaltigkeit Künstlicher Intelligenz aus? Gibt es eigentlich wirklich „grüne“ Systeme der KI? Und was können wir als NutzerInnen tun? Das haben wir Dr. Anne Mollen von AlgorithmWatch im Interview gefragt.
AlgorithmWatch ist eine zivilgesellschaftliche Organisation aus Berlin. Das Team will Algorithmen und Systeme des automatisierten Entscheidens gemeinwohlorientiert gestalten. Dazu betreibt es unter anderem journalistische Recherchen, führt Forschungsprojekte durch und kommentiert politische Vorschläge zur Regulierung von Algorithmen.
In dem Forschungsprojekt SustAIn hat AlgorithmWatch einen Nachhaltigkeitsindex für Künstliche Intelligenz entwickelt. Anne erklärt, was es damit auf sich hat und gibt außerdem Tipps, wie ihr Lehrkräfte das Thema Nachhaltigkeit und KI mit euren SchülerInnen thematisieren könnt.
Künstliche Intelligenz ist ein Buzzword und macht oft Schlagzeilen. Kannst du ein paar Beispiele nennen, wo uns KI im Alltag bereits heute täglich begegnet?
Sogenannte Künstliche Intelligenz begegnet uns in Form von Algorithmen beispielsweise, wenn wir große Online-Plattformen wie Facebook, YouTube, TikTok oder Instagram nutzen. Hier bestimmen Algorithmen, welche Inhalte wir angezeigt bekommen. Damit haben diese Plattformen eine große Macht. Aber auch Suchmaschinen oder Navigationsdienste wie GoogleMaps basieren auf sogenannter Künstlicher Intelligenz, ebenfalls kommt sie bei den Such- und Empfehlungsfunktionen im Online-Shopping zum Einsatz.
Wir kommen also im Alltag ständig mit Algorithmen und KI in Berührung. Sie wird aber in allen möglichen Bereichen eingesetzt: beim autonomen Fahren, für medizinische Diagnosen, bei der Analyse von Klimadaten, in der öffentlichen Verwaltung, für die Wartung von Maschinen etc. Man bezeichnet sogenannte KI daher auch als „general purpose technology“.
Ihr habt ein tolles Projekt ins Leben gerufen: Warum gibt es SustAIn und was wollt ihr damit erreichen?
Bei SustAIn haben wir erstmalig definiert, was eine nachhaltige KI eigentlich ist. Denn um ein KI-System zu entwickeln, braucht es eine technische Infrastruktur und Rechenleistung, die natürlich Strom verbraucht. Daher gibt es mitunter hohe Kosten für die Umwelt, wenn seltene Mineralien unter schlimmsten Bedingungen für unsere Hardware abgebaut werden oder große Mengen an Energie für das Training von KI-Modellen aufgebracht werden müssen – was natürlich CO2-Emissionen verursacht.
Aber neben diesen Auswirkungen auf die Umwelt, kann sich eine KI auch auf die soziale und ökonomische Nachhaltigkeit auswirken. Wenn eine KI beispielsweise diskriminierende Entscheidungen trifft, dann verstärkt sie problematische gesellschaftliche Tendenzen.
Anm. d Red.: Zum Weiterlesen zu diesem Thema empfehlen wir die folgenden Publikationen von AlgorithmWatch:
Wann ist eine KI aus eurer Sicht nachhaltig?
Eine KI ist nachhaltig, wenn sie die planetaren Grenzen respektiert, keine problematischen ökonomischen Dynamiken verstärkt und den gesellschaftlichen Zusammenhalt nicht gefährdet.
Warum ist es wichtig, KI unter Nachhaltigkeitsgesichtspunkten zu betrachten? Was sind Folgen von nicht-nachhaltigen KI-Systemen?
Die Folgen können ganz unterschiedlich sein. Aktuell sehen wir beispielsweise, dass große Tech-Unternehmen wie Google und Facebook riesige Modelle zur Spracherkennung entwickeln, die einen immensen Energieverbrauch haben. Die Folgen für das Klima sollten wir hier dringend berücksichtigen.
Aber auch eine diskriminierende KI ist nicht-nachhaltig. Ein Beispiel haben wir in den letzten Jahren in Österreich gesehen, als ein Algorithmus, der bei der Arbeitskammer im Einsatz war, Arbeitssuchende in unterschiedliche Gruppen eingeteilt hat. Hier wurden systematisch Frauen, Müttern oder älteren Menschen nicht die gleichen Weiterbildungsmöglichkeiten angeboten wie beispielsweise jungen Männern – weil ihre Chancen auf einen schnellen Wiedereinstieg in einen Job vom Algorithmus schlechter beurteilt wurden. Das bewerten wir als sozial nicht nachhaltig.
Eine KI ist nachhaltig, wenn sie die planetaren Grenzen respektiert, keine problematischen ökonomischen Dynamiken verstärkt und den gesellschaftlichen Zusammenhalt nicht gefährdet.
Das Projekt läuft seit November 2020 (und noch bis Oktober 2023): Welche Meilensteine habt ihr schon erreicht? Und was wollt ihr gerne noch erreichen?
Wir haben über 40 Indikatoren entwickelt mit denen sich die Nachhaltigkeit von KI bewerten lässt und diese bereits mit PraxispartnerInnen getestet. In unserem SustAIn-Magazin haben wir bereits einige solcher Praxisbeispiele vorgestellt. Wir sind sehr froh darüber, dass wir die Diskussion zur Nachhaltigkeit von KI mittlerweile praxisnah führen können. Denn das oberste Ziel ist zur Zeit immer noch für das Thema zu sensibilisieren.
Gibt es bereits nachhaltige KIs da draußen? Welche Projekte sind dir besonders im Gedächtnis geblieben?
Nachhaltige KI kann ganz unterschiedlich aussehen. Es kann beispielsweise sein, dass ein datenminimalistischer Ansatz der Nachhaltigkeit dient – denn es werden hier mitunter personenbezogene Daten geschützt und die erforderliche Rechenleistung minimiert. Auch der bewusste Verzicht auf komplexe Systeme des Maschinellen Lernens kann aus Nachhaltigkeitsperspektive sinnvoll sein, wenn man stattdessen einen einfachen regelbasierten Algorithmus nutzen kann, der viel einfacher nachzuvollziehen ist. Auch Systeme, die die Autonomie der Nutzenden mit Blick auf den Einsatz personenbezogener Daten stärkt, werten wir als nachhaltig. Wir sehen in der Praxis einige KI-Systeme, die Nachhaltigkeitsansätze aufzeigen. Aber das Bewusstsein, dass KI-Systeme von vorne bis hinten an Nachhaltigkeitskriterien ausgerichtet werden sollten, existiert bisher kaum.
Das Bewusstsein, dass KI-Systeme von vorne bis hinten an Nachhaltigkeitskriterien ausgerichtet werden sollten, existiert bisher kaum.
Du hast Kommunikations und Medienwissenschaften studiert: Wann und wie hast du angefangen dich mit Algorithmen zu beschäftigen?
Im Rahmen meiner Doktorarbeit habe ich mich damit beschäftigt, wie Menschen mit digitalen Medientechnologien umgehen: Wie gehen Menschen in ihrer alltäglichen Nutzung von Online-Plattformen beispielsweise mit deren Ranking-Algorithmen um? Mich hat vor allem die Frage interessiert, wie viel Macht die Technologie und somit auch die Organisationen und Menschen, die die Technologie herstellen, und wie viel Macht die Nutzenden haben. Sind wir alle hilflos den Algorithmen ausgeliefert? Kurz gesagt: Nein, das sind wir nicht, aber es ist kompliziert.
Hast du Tipps, wie interessierte Lehrkräfte das Thema KI und Nachhaltigkeit im Unterricht thematisieren können?
Wir sind noch auf allen Ebenen dabei das Thema „Nachhaltigkeit von KI“ auf die Agenda zu bringen. In einem ersten Schritt wäre es daher wichtig Lehrkräften und SchülerInnen klar zu machen, wo ihnen im Alltag KI begegnet und das diese keinen „cleanen“ Roboter oder immaterielle Datensätze sind. Jeder Datensatz ist irgendwo gespeichert. Das Speichermedium ist ein Gerät, in dem seltene Mineralien stecken, die vielleicht als Konfliktmineralien im Kongo abgebaut wurden, oft unter furchtbaren Arbeitsbedingungen und Gefährdungen für die Menschen, die in diesen Minen arbeiten.
Aber auch wenn ich online streame, von Cookies getrackt werde oder Online-Plattformen nutze, wird unter Umständen viel Energie benötigt. Wenn ich also nur der Verwendung von essenziellen Cookies zustimme, kann das mitunter Energie sparen. Das ist eine einfache Sache, die ich im Alltag gut umsetzen kann. Aber leider gibt es bisher nicht viele solcher Beispiele.
Wenn ich nur der Verwendung von essenziellen Cookies zustimme, kann das mitunter Energie sparen. Das ist eine einfache Sache, die ich im Alltag gut umsetzen kann.
Hast du Ideen, welche Anwendungen man im Privaten verwenden kann, die nachhaltige KI Systeme nutzen?
Leider nicht, denn es liegen viel zu wenige Informationen zur Nachhaltigkeit von KI vor. Wir stehen noch am Anfang der Diskussion und es muss sich noch viel tun. Unter anderem muss auch die Politik aktiv werden. Zum Beispiel könnten verpflichtende Umweltrisikoabschätzungen für digitale Technologien hilfreich sein, um mehr über die Nachhaltigkeit von digitalen Produkten und KI-Systemen zu erfahren.
Unterrichtsmaterial von App Camps zum Thema Künstliche Intelligenz oder Nachhaltigkeit
Zum Einstieg in das Thema Künstliche Intelligenz findet ihr auch bei App Camps Unterrichtsmaterial zum Einsatz ab Klassenstufe 7. Ihr könnt dort mit Scratch, dem App Inventor oder mit Python verschiedene KI-Anwendungen erstellen.
Wenn ihr mit euren SchülerInnen ab Klassenstufe 5 spielerisch in das Thema Nachhaltigkeit eintauchen wollt, empfehlen wir euch unser Material „Spielend nachhaltig mit Scratch“.
Herzlichen Dank für das spannenden Interview, liebe Anne!
Wenn ihr mehr zu diesem spannenden Projekt wissen wollt, dann schaut gerne auf der Website von AlgorithmWatch nach oder stöbert im SustAIn-Magazin. Dr. Anne Mollen findet ihr auch auf Twitter unter: @AnMollen
Anne Looks ist studierte Medienwissenschaftlerin und hat lange in der Verlagsbranche gearbeitet. Ihre Leidenschaft ist digitale Produktentwicklung und New Learning. Bei App Camps entwickelt sie Unterrichtsmaterialien, veranstaltet Webinare und hin und wieder schreibt sie etwas, meistens für @app_camps auf Instagram.
