Künstliche Intelligenz und Geschlecht: Wo Algorithmen falsch liegen

Wie KI Geschlecht „lernt“

Künstliche Intelligenz denkt nicht über Menschen nach. Sie erkennt Muster in sehr großen Mengen an Daten: Fotos, Texten, Sprachaufnahmen. Was in diesen Daten häufig vorkommt, hält das System für normal. Was selten vorkommt, ordnet es schlechter ein oder gar nicht.

Beim Thema Geschlecht hat das Folgen. Die meisten Datensätze kennen nur zwei Kategorien, männlich und weiblich, und diese Etiketten haben Menschen von außen vergeben, nach dem Aussehen oder dem Namen. Eine KI, die damit trainiert wird, lernt also nicht, welches Geschlecht jemand hat. Sie lernt, wie andere das Geschlecht einer Person auf den ersten Blick einschätzen würden. Für trans und nicht-binäre Menschen ist genau dieser erste Blick oft das Problem. Mehr zu Geschichte und Kultur rund um Geschlecht findest du im Bereich Wissen.

Automatische Geschlechtserkennung: Raten nach Aussehen

Es gibt Programme, die aus einem Gesicht, einer Stimme, einem Vornamen oder sogar dem Gang ein Geschlecht ablesen wollen. Fachleute sprechen von automatischer Geschlechtserkennung. Eingesetzt wird so etwas etwa für Werbung, die Zielgruppen sortiert, für Statistiken über Besucher*innen oder als Zusatzfunktion in Gesichtserkennungssoftware.

Das Grundproblem: Geschlecht steht nicht im Gesicht. Was eine Software erfasst, sind Merkmale wie Haarlänge, Kieferform, Make-up oder Stimmlage, also der Geschlechtsausdruck und körperliche Merkmale. Über die Identität eines Menschen sagt das wenig. Eine trans Frau mit tiefer Stimme, ein trans Mann ohne Bart oder eine nicht-binäre Person, die sich bewusst androgyn kleidet, werden von solchen Systemen schnell falsch eingeordnet. Nicht-binäre Menschen kommen in den Kategorien meist gar nicht vor.

Forschende in den USA haben 2019 kommerzielle Gesichtsdienste großer Anbieter getestet. Bei cis Personen lagen die Systeme meist richtig, trans Personen ordneten sie deutlich häufiger falsch ein, und nicht-binäre Menschen konnten sie gar nicht korrekt erfassen, weil die Software nur zwei Antworten kannte. Für Betroffene ist das automatisiertes Misgendering, und zwar eines, dem man nicht einmal widersprechen kann.

Wo Algorithmen falsch liegen, merken Betroffene das oft gar nicht, denn die Einordnung passiert im Hintergrund. Niemand bekommt eine Nachricht, dass eine Kamera im Kaufhaus sie als Mann gezählt hat. Ernster wird es, wenn solche Systeme über Zugänge entscheiden, etwa bei automatischen Identitätsprüfungen, die ein Selfie mit dem Ausweisfoto vergleichen. Wer nach einer Transition anders aussieht als auf einem älteren Ausweisbild, kann dort hängen bleiben.

Verzerrte Daten, verzerrte Ergebnisse

Fachleute nennen solche Verzerrungen Bias. Sie entstehen auf mehreren Wegen. Erstens sind trans und nicht-binäre Menschen in den meisten Datensätzen kaum vertreten. Zweitens tragen die Daten die Vorurteile der Gesellschaft in sich. Wer ein Sprachmodell mit Texten aus dem Internet trainiert, füttert es auch mit Hasskommentaren, alten Begriffen und Klischees. Drittens entscheiden Menschen beim Beschriften der Daten, was als „männlich“ und „weiblich“ gilt, und bringen ihre eigenen Annahmen mit.

Dass Gesichtserkennung bei bestimmten Gruppen schlechter funktioniert, ist gut belegt. Die bekannte Untersuchung „Gender Shades“ von Joy Buolamwini und Timnit Gebru zeigte 2018, dass kommerzielle Systeme Frauen mit dunkler Haut deutlich häufiger falsch einordneten als hellhäutige Männer. Wenn Geschlecht und Hautfarbe zusammenkommen, verstärken sich die Fehler. Für trans Menschen of Color können sich beide Probleme überlagern.

Sprachassistenten und Chatbots

Sprachassistenten klangen lange standardmäßig weiblich: freundlich, hilfsbereit, nie genervt. Eine UNESCO-Studie kritisierte 2019, dass das alte Rollenbilder festigt, gerade weil die Assistenten auf Beleidigungen oft ausweichend oder sogar kokett reagierten. Inzwischen bieten viele Hersteller mehrere Stimmen zur Auswahl an.

Bei Chatbots, die Texte schreiben und Fragen beantworten, zeigen sich andere Muster. Übersetzungsprogramme und Sprachmodelle machen aus dem englischen „doctor“ gern „der Arzt“ und aus „nurse“ „die Krankenschwester“, obwohl die englischen Wörter kein Geschlecht festlegen. Manche Systeme verwenden veraltete Wörter, stellen trans Themen grundsätzlich als Kontroverse dar oder liefern bei Gesundheitsfragen falsche Informationen, die sehr überzeugend klingen. Andererseits nutzen viele trans Menschen Chatbots ganz praktisch, etwa um Formulierungen für ein Coming-out zu üben oder um einen Begriff schnell erklärt zu bekommen. Wichtig bleibt: Medizinische und rechtliche Fragen gehören zu Fachleuten, nicht in ein Chatfenster.

Bildgeneratoren und alte Klischees

KI-Programme, die aus einer kurzen Beschreibung Bilder erzeugen, zeigen die Vorurteile ihrer Trainingsdaten besonders deutlich. Wer nach einer Führungskraft fragt, bekommt häufig einen weißen Mann im Anzug. Wer nach einer Pflegekraft fragt, eine junge Frau. Bei trans Menschen sieht es oft noch schlechter aus: Die Bilder zeigen Karikaturen, übertrieben geschminkte Figuren oder sexualisierte Darstellungen, weil solche Bilder im Netz überrepräsentiert sind. Und weil KI-Bilder zunehmend in Werbung, Lernmaterial und Nachrichten landen, tragen sie diese Klischees weiter.

Manche Anbieter versuchen gegenzusteuern, etwa indem sie Ergebnisse vielfältiger mischen oder bestimmte Begriffe sperren. Das kann helfen, aber auch neue Probleme schaffen, wenn harmlose Anfragen zu trans Themen blockiert werden. Einen wirklich ausgewogenen Weg haben bisher wenige gefunden.

Datenschutz: wenn Daten mehr verraten als gewollt

Für trans Menschen ist Datenschutz kein abstraktes Thema. Alte Fotos, frühere Namen und Einträge in Datenbanken können sie ungewollt outen. KI-Systeme verknüpfen große Datenmengen und können daraus Schlüsse ziehen, die niemand ausdrücklich preisgegeben hat, etwa aus Einkäufen, Suchanfragen oder dem Verlauf von Fotos über die Jahre. Wer mit dem Deadname in alten Datensätzen steht, wird ihn dort oft nicht mehr los.

In Deutschland schützt das Offenbarungsverbot frühere Vornamen und den früheren Geschlechtseintrag. Gesundheitsdaten, zu denen etwa eine Hormontherapie gehört, sind nach der Datenschutz-Grundverordnung besonders geschützt. Die EU hat mit ihrer KI-Verordnung außerdem Regeln beschlossen, die bestimmte biometrische Auswertungen verbieten oder streng begrenzen. Wie das in der Praxis durchgesetzt wird, ist Stand November 2026 noch nicht überall geklärt.

Was gute KI-Projekte anders machen

Bessere KI ist möglich, wenn Vielfalt von Beginn an Teil der Planung ist und nicht erst nach der ersten öffentlichen Kritik. Wer selbst KI-Projekte plant, etwa mit einer KI Agentur Bonn wie qom, sollte Vielfalt von Anfang an mitdenken. Ein paar Grundsätze helfen dabei:

• Frag dich, ob das System Geschlecht überhaupt kennen muss. Oft lautet die ehrliche Antwort: nein.
• Wenn Geschlecht wichtig ist, frag Menschen danach, statt es zu erraten. Biete mehr als zwei Optionen, ein freies Feld und „keine Angabe“ an.
• Lass Namen und Angaben jederzeit ändern und lösche alte Daten wirklich.
• Prüfe Trainingsdaten auf Lücken und Klischees, und teste das System mit Menschen, die davon betroffen sind.
• Dokumentiere offen, was das System kann und was nicht, und lass bei wichtigen Entscheidungen Menschen das letzte Wort.

Hilfreich sind außerdem vielfältige Teams, in denen auch trans und nicht-binäre Menschen mitentwickeln. Und wenn jemand durch ein automatisiertes System benachteiligt wird, kann die Antidiskriminierungsstelle des Bundes eine erste Anlaufstelle sein.

Zurück zur Übersicht Wissen