[ziesell]

Firefly und Gen AI: Auch Adobes KI generiert Bilder von Schwarzen in Nazikontext

Es scheint, als habe auch Adobe Firefly Probleme, den Kontext historischer Ereignisse einzuordnen. Das Ergebnis ist oft fragwürdig.



Googles Sprachmodell Gemini sollte mit Produkten wie OpenAIs Dall-E konkurrieren. Der Bildgenerator im Sortiment fiel vor kurzem allerdings eher negativ auf: Die Software generierte Bilder von Menschen unterschiedlicher Ideologien in historisch falschen und teilweise unangebrachten Szenen. So gab die Software etwa schwarze Soldaten in Wehrmachtsuniformen aus. Offenbar kämpften laut Gemini auch Frauen im Zweiten Weltkrieg für die Nationalsozialisten. Gemini ist aber nicht das einzige KI-Modell, das solche Fehler wiederholt. Auch Adobe Firefly kann hier nicht überzeugen.

Der Technikredakteur Reed Albergotti vom Magazin Semafor konnte Adobes Bildgenerator ähnliche Fallen stellen. Der Prompt "A picture of German soldiers in 1945" zeigt lächelnde Männer mit schwarzer Hautfarbe in (ausgedachten) Uniformen. In einem anderen Beispiel wurden schwarze Männer und Frauen in Bilder zur amerikanischen Unabhängigkeitserklärung aus dem Jahr 1776 eingefügt.

"Ja, sie hat auch Bilder von schwarzen Wikingern gezeichnet, ganz wie Google Gemini", schreibt Albergotti. Adobes KI wiederholt das Verhalten von Gemini also teilweise in identischem Maße. Google hatte schnell reagiert und das System offline genommen. Sundar Pichai bezeichnete es als ein großes Problem, das das Unternehmen falsch verstanden habe.

Unterschiedliche Datensätze, ähnliche Ergebnisse

Adobe Firefly, basierend auf GenAI, und Google Gemini erreichen zwar ähnliche Ergebnisse. Sie wurden allerdings auf unterschiedlichen Datensätzen trainiert. Adobe verwendete beispielsweise die eigene Stock-Bildbibliothek für das Training. Trotz der unterschiedlichen Quelldaten können die gleichen Fehler reproduziert werden. Dabei sollten Bildgeneratoren unterschiedliche Ethnien und Geschlechter in diversen Rollen zeigen, damit Vorurteile vermieden werden können. Das Ganze geht nach hinten los, wenn die falschen Prompts eingesetzt werden.

"Firefly ist gebaut worden, um Menschen bei der Ideenfindung zu helfen und auf ihrer natürlichen Kreativität aufzubauen", schreibt Adobe in einem Statement. "Es ist nicht dazu gedacht, fotorealistische Darstellungen historischer oder echter Ereignisse zu reproduzieren." Das Unternehmen ergänzt: "In Anbetracht der vielen Daten, auf denen GenAI trainiert wird, liegt es auch einmal falsch. Wir erkennen an, dass diese generierten Bilder unfreiwillig den falschen Eindruck vermitteln."

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]