Warum brauchen wir eine feministische KI, Eva Gengler?
KI lernt aus Daten. Daher sind KI-Systeme nur so divers und vielfältig, wie ihre Trainingsdaten. Oft genug sind diese aber einseitig, voller Fehler oder spiegeln Vorurteile und Stereotype der Gesellschaft wider. Beispiele diskriminierender KI finden sich inzwischen zuhauf, z.B. im Bereich des Recruitings, bei der Gesichtserkennung, der Strafverfolgung, der Kreditvergabe uvm. Auch in Bildern und Texten generativer KI-Tools finden sich genügend Geschlechter-Stereotype wieder.
Wie können wir als Nutzer:innen KI-Systeme gerechter machen, Ungleichheiten beseitigen und nicht alte Stereotype immer wieder reproduzieren? Damit beschäftigt sich die Feministische KI. Um ihren Ansatz genauer zu verstehen, haben wir mit Eva Gengler gesprochen. Sie ist Doktorin der Wirtschafts- und Sozialwissenschaften an der FAU Erlangen-Nürnberg, Autorin, Speakerin & KI-Expertin.
Sie beschäftigt sich seit 2018 mit Künstlicher Intelligenz aus feministischer Perspektive. Dabei geht es ihr vor allem darum, Machtstrukturen zu hinterfragen, Ungerechtigkeiten zu erkennen und zu versuchen, sie zu beseitigen. Dazu hat sie im März 2026 das Buch „Feministische KI“ veröffentlicht.
Im Interview erklärt sie, warum feministische Ki für uns alle wichtig ist und gibt konkrete Tipps, wie ihr Lehrkräfte das Thema mit euren Schüler:innen im Unterricht thematisieren könnt.
Was genau verstehst du unter feministischer KI?
Feministische KI ist für mich ein Ansatz, um Technologien zu entwickeln und einzusetzen, die unsere Welt gerechter machen. Dabei geht es also darum, wie wir KI entwickeln, z.B. mit Fokus auf gerechter Partizipation und mit feministischen Datensätzen – und einsetzen, z.B. welche Systeme wir nutzen und wie wir dabei Prompts schreiben –, aber es geht ganz entscheidend auch darum, warum wir KI entwickeln und einsetzen.
Hier ist für mich der feministische Zweck entscheidend: KI entwickeln und einsetzen, um die Welt gerechter zu machen. Es ist also nicht genau ein KI-System, sondern ein Ansatz, um das System KI zu verändern.
Warum sollten sich Lehrkräfte und Schüler:innen mit feministischer KI befassen?
Wir alle sollten das tun, denn wir müssen verstehen, dass herkömmliche KI-Systeme alles andere als objektiv und neutral sind. Sie verstärken den Status-quo und sie automatisieren die Vergangenheit. Das ist nicht gerecht und das können wir uns so nicht leisten.
Gerade dem Bildungsbereich kommt dabei eine entscheidende Bedeutung zu. KI wird überall eingesetzt und wir brauchen die Kompetenzen dazu mit diesen Systemen kritisch und verantwortungsvoll umzugehen. Dafür braucht es Bildung. Wir müssen verstehen, was diese Systeme können (z.B. gut Texte verfassen), wie sie funktionieren (z.B. auf Basis statistischer Auswertungen von Wahrscheinlichkeiten) und wofür wir sie gut (z.B. Überarbeitung der Grammatik in einem bestehenden Text) bzw. nicht gut einsetzen können (z.B. als Wahrheitstool).
Schulen sollten hier ein Fundament bilden. Dafür braucht es entsprechend geschulte und interessierte Lehrer:innen, die ihren Schüler:innen die Kompetenzen vermitteln können, welche weiterhin entscheidend sein werden: Hinterfragen, Umgang mit Quellen, KI-generierte Inhalte erkennen. Schüler:innen müssen lernen mit KI nicht ihre Arbeit und ihr Denken zu ersetzen, sondern wie sie KI gezielt einsetzen können, um eigene Kompetenzen zu fördern, Zeit zu sparen und dabei nicht zu viel outzusourcen.
Das Befassen mit feministischer KI regt dabei dazu an, bestehende Strukturen und Systeme auch in unserer analogen Welt zu hinterfragen und zu verändern. KI ist eine Art Spiegel, der Probleme sichtbar macht und uns dabei helfen kann diese klarer zu sehen als vorher. Schüler:innen sollten unsere Welt derart klar sehen und auch lernen, dass KI ein Medium sein kann, um einer Veränderung näher zu kommen. Wir sind nicht ohnmächtig. Es kommt darauf an für was und wie wir KI einsetzen.
Schüler:innen müssen lernen mit KI nicht ihre Arbeit und ihr Denken zu ersetzen, sondern wie sie KI gezielt einsetzen können, um eigene Kompetenzen zu fördern, Zeit zu sparen und dabei nicht zu viel outzusourcen.
In deinem Buch beschreibst du viele Beispiele, wo KI-Systeme überall diskriminierend wirken. Kannst du drei nennen, die du am schwerwiegendsten findest?
Es fällt mir schwer zu sagen, dass ich ein bestimmtes Beispiel am schwerwiegendsten finde. Mit Blick auf aktuelle weltpolitische Entwicklungen muss ich insbesondere an KI-Systeme denken, die in der Kriegsführung und in der Manipulation eingesetzt werden. Ich denke an Social-Media-Algorithmen privater Firmen, die steuern, was wir sehen und wie und wie oft wir gesehen werden und wie massiv das unser eigenes Weltbild prägt. Ich denke an die ökologischen Konsequenzen von KI.
Drei Beispiele, die mir in den Kopf kommen sind: KI in der Polizeiarbeit, die vorhersagen soll, wo in Zukunft Straftaten passieren und die häufig gravierend rassistisch gebiast sind und zusammen mit vorurteilsbehafteten juristischen KI-Systemen dazu führen, dass gerade People of Color verhaftet und verurteilt werden.
Ich denke an Algorithmen auf Social Media, die die Reichweite von queeren Menschen und Menschen mit Behinderungen eingeschränkt haben – laut Firma, um diese Menschen zu schützen. Und ich denke an den Fall rund um pornografische Deepfakes gegen Collien Fernandez und die Männer, die Grok nutzen, um auf X Nudes von Frauen und Kinder zu erstellen.
Wir sehen an all diesen Beispielen: Es ist entscheidend, wer warum KI einsetzt.
Kannst du auch positive Beispiele benennen, wo KI-Systeme Machtstrukturen verändern und Ungerechtigkeiten abbauen?
Es gibt eine ganze Reihe an Beispielen von KI-Systemen, die entwickelt und eingesetzt werden, um Machtstrukturen zu verändern und Ungerechtigkeiten abzubauen. Da gibt es Maya den Hilfe-Bot von der NGO myProtectify, der Opfern Gewalt in der Beziehung unterstützt, Informationen bereitstellt und Aufklärung leistet. Da gibt es KI-Systeme wie die von WittyWorks und Summ.AI, die Sprache inklusiver oder einfacher gestalten. Da gibt es das Projekt Frau.Herz.KI, das weibliche Herzinfarkte früher diagnostizieren soll.
Es kommt darauf an, dass hier gesellschaftliche Probleme erkannt worden sind und (auch) mit Hilfe von KI gelöst werden sollen.
Das Thema Feminstische KI begleitet dich bereits seit 2018. Warum findest du es 2026 wichtiger denn je, dich damit zu befassen?
Ich bin durch meine Masterarbeit zum Thema Künstliche Intelligenz gekommen. Heute ist KI in so vielen Bereichen integraler Bestandteil unseres Lebens geworden und hat einen noch viel größeren Einfluss als noch 2018. Wir sehen auch, dass die Entwicklung und der Einsatz dieser Systeme eng mit neo-liberal kapitalistischen Interessen und Vormachtsambitionen verbunden ist. KI wird u.a. dafür genutzt, um zu manipulieren, zu spalten, Privilegien zu sichern. KI macht Reiche reicher und Arme ärmer. Und das ist heute noch mehr der Fall als schon 2018.
Feministische KI ist ein Ansatz, um dieses System zu verändern.
KI macht Reiche reicher und Arme ärmer. Und das ist heute noch mehr der Fall als schon 2018. Feministische KI ist ein Ansatz, um dieses System zu verändern.
Hast du Tipps, wie interessierte Lehrkräfte das Thema Feministische KI im Unterricht behandeln können?
Ich finde Beispiele sehr hilfreich. Ich binde immer positive wie auch negative Beispiele in meine Vorträge ein. Sie helfen uns zu verstehen, wie groß das Ausmaß ist und auch, was wir konkret zu können. Ich würde also mit Beispielen arbeiten, die in die Lebensrealität von Schüler:innen passen. Außerdem würde ich externe Expert:innen für Inputs von außen einladen und ich würde Tools nutzen, um das Ganze erfahrbar zu machen. Ich würde gemeinsam Bilder prompten oder Texte und konkret darüber sprechen, warum die Ergebnisse entstehen, die wir sehen und dann mit den Schüler:innen gemeinsam Lösungsstrategien erarbeiten.
Wir sollten keine Angst vor KI schüren. Wir sollten dazu einladen sie zu hinterfragen und vor allem die Strukturen dahinter. Und wir sollten dazu einladen KI feministisch zu nutzen. Ich würde daher Bewusstsein für die Probleme mit konkreten Beispielen und Praxisübungen verbinden.
Hast du konkrete Tipps für die Nutzung von KI-Tools, wenn ich mich im Sinne der Feministischen KI verhalten möchte?
Es gibt Vieles, das wir zum können. Wir können generative KI nutzen, um eigene Denkmuster zu hinterfragen, Texte auf Bias hin zu überprüfen oder uns einen inklusiveren Prompt für ein Bild mit einer KI schreiben lassen. In Bezug aufs Promptiung haben wir auch einen Leitfaden verfasst. Wir sollten uns dessen bewusst sein, dass die Ergebnisse nicht neutral sind. Deswegen müssen wir sie hinterfragen und sie im Zweifel nicht 1 zu 1 übernehmen. Wir sollten KI-Systeme, wenn wir sie für Recherchezwecke einsetzen, konkret dazu auffordern auch Frauen, People of Color und andere marginalisierte Personen vorzuschlagen. Die Verantwortung liegt bei uns Menschen. Wir entscheiden, warum wir KI einsetzen – und deshalb können wir das natürlich auch feministisch tun.
Wir sollten keine Angst vor KI schüren. Wir sollten dazu einladen sie zu hinterfragen und vor allem die Strukturen dahinter. Und wir sollten dazu einladen KI feministisch zu nutzen.
Herzlichen Dank für das spannenden Interview, liebe Eva!
Das Buch „Feministische KI“ ist 2026 im Dietz Verlag erschienen. Eva Gengler findet ihr über ihr Unternehmen „Feminist AI“ oder via Instagram und LinkedIn.
Unterrichtsmaterial von App Camps zum Thema Vorurteile & Stereotype durch KI
Ihr wollt das Thema Vorurteile und Stereotype durch KI im Unterricht behandeln? Dann empfehlen wir euch diese Unterrichtseinheit aus unserer Kollektion „KI-Kompetenz“. Darin lernen Schüler:innen das Thema Voreigenommenheit (Bias) von KI kennen und experimentieren mit verschiedenen Bild-KI-Tools, um Stereotype aufzudecken. Empfohlen ab Klassenstufe 5.
Anne Looks ist studierte Medienwissenschaftlerin und hat lange in der Verlagsbranche gearbeitet. Ihre Leidenschaft ist digitale Produktentwicklung und New Learning. Bei App Camps entwickelt sie Unterrichtsmaterialien, veranstaltet Webinare und hin und wieder schreibt sie etwas, meistens für @app_camps auf Instagram.
