Google muss seinen „Gemini“ Bot, ein Tool zur KI-gestützten Erstellung von Bildern, nach vielfacher Kritik von Nutzern, dieser sei „zu woke“, nun noch einmal anpassen.
Das Problem bei Gemini sei, so diverse Nutzer, dass der Bot einfach zu sehr darauf achte, keine Bilder zu generieren, welche unter Umständen als rassistisch wahrgenommen werden könnten. Was grundsätzlich erst einmal nach einer positiven Eigenschaft klingt, kann aber durchaus auch ungewollte Probleme mit sich bringen, bat man den Bot zum Beispiel, ein Bild der amerikanischen Gründerväter zu erstellen (welche nun mal „alte, weiße Männer“ waren), so soll er auch dabei darauf geachtet haben, eine breite Varianz von Geschlechtern und Ethnien mit einzubeziehen.
Die amerikanischen Gründerväter aber als bunt gemischte Truppe aus Männern, Frauen und Menschen verschiedenster Ethnien und Hautfarben darzustellen ist jedoch nicht gerade historisch korrekt, auch wenn es sicher so zu begrüßen gewesen wäre. Das gleiche Problem tritt natürlich auch ein, wenn man sich andere historische Bilder oder Bilder von realen Ereignissen erstellen lassen möchte.
Das Unternehmen gab zu, dass sein Tool „nicht den richtigen Ton traf“ und kündigte an, die Darstellungen zu verbessern. Google sperrte später vorübergehend die Fähigkeit des Tools, Bilder von Menschen zu generieren, während es an der Fehlerbehebung arbeitete. Dies ist nicht das erste Mal, dass KI über Fragen der Vielfalt stolpert. Zum Beispiel musste Google sich vor fast einem Jahrzehnt entschuldigen, nachdem seine Fotos-App ein Foto eines schwarzen Paares als „Gorillas“ bezeichnet hatte.
Google wurde auch beschuldigt, durch sein Gemini-Tool Stereotypen zu perpetuieren. „Kritiker“ bemängelten, dass das Tool Schwierigkeiten hätte, die Existenz weißer Menschen anzuerkennen. Dies führte zu Kontroversen, insbesondere in rechtsgerichteten Kreisen in den USA, die bereits eine Abneigung gegenüber großen Technologieplattformen aufgrund vermeintlicher „liberaler Voreingenommenheit“ hegen. Google betonte, dass es die Repräsentation und Voreingenommenheit ernst nehme und das in seinen Ergebnissen widerspiegeln möchte.
