Mehrere große KI-Chatbots haben in einem Test den Hijab muslimischer Frauen aus Bildern entfernt. Nach Angaben des Guardian reagierten ChatGPT von OpenAI und Grok von xAI auf eine entsprechende Aufforderung und bearbeiteten ein KI-generiertes Bild einer Frau. Der Test macht damit unterschiedliche Grenzen bei der Verarbeitung sensibler Darstellungen sichtbar.
Untersucht wurden ChatGPT, Grok, Gemini und Claude. Der Guardian prüfte, wie die Systeme auf die Bitte reagieren, einer Frau den Hijab in einem Bild abzunehmen. Bei ChatGPT und Grok führte die Aufforderung nach den veröffentlichten Testergebnissen zum gewünschten Ergebnis. Damit veränderten die Programme ein Kleidungsstück, das für viele muslimische Frauen eine religiöse oder persönliche Bedeutung hat.
Anders fiel die Reaktion von Anthropics Claude aus. Das System erklärte dem Bericht zufolge, keine Funktion zur Bearbeitung oder Erzeugung von Bildern zu besitzen. Zugleich lehnte es die Änderung eines Fotos mit dem Ziel ab, den Hijab einer Person zu entfernen. Die vorliegenden Informationen nennen keine näheren Einzelheiten dazu, wie die übrigen Systeme im Test auf die jeweiligen Anfragen reagierten. Insbesondere zu Gemini liegen in der Meldung keine konkreten Testergebnisse vor.
Der Vorgang verweist auf eine ethische Frage bei generativer Bildbearbeitung: Technisch mögliche Veränderungen können zugleich in einen religiösen oder kulturellen Zusammenhang eingreifen. Die Ergebnisse zeigen, dass die getesteten Chatbots solche Anfragen nicht einheitlich behandeln. Während zwei Systeme die gewünschte Bearbeitung vornahmen, verband Claude seine Ablehnung mit einer grundsätzlichen Einschränkung beziehungsweise Zurückweisung der Anfrage.
Aus den veröffentlichten Angaben geht nicht hervor, welche weiteren Kriterien bei der Prüfung angewandt wurden oder ob die Systeme zwischen KI-generierten Bildern und Fotografien unterschiedlich reagierten. Auch ist nicht bekannt, ob die Ergebnisse bei veränderten Formulierungen der Aufforderung gleich ausgefallen wären. Genauere Angaben zum Ablauf und zu den einzelnen Bildausgaben liegen in der vorliegenden Meldung nicht vor.
Die Testergebnisse wurden vom Guardian veröffentlicht. Darüber berichtete zunächst Arab News unter Berufung auf die Untersuchung der britischen Zeitung.
Kurz zusammengefasst
- Der Guardian testete ChatGPT, Grok, Gemini und Claude mit der Bitte, einen Hijab aus einem Frauenbild zu entfernen
- ChatGPT und Grok entfernten den Hijab aus einem KI-generierten Bild und veränderten damit ein religiös bedeutsames Kleidungsstück
- Claude lehnte die Änderung ab; zu Gemini nennt der Bericht keine konkreten Testergebnisse
Kommentare (0)