Google a déclaré que son modèle d’IA Gemini « manquait la cible » avec certaines images, après que les utilisateurs aient partagé des photos incluant des nazis de diverses races.
Google $GOOGL a déclaré jeudi que c’était suspendre la capacité de son modèle d’IA à générer des images de personnes après que les utilisateurs aient souligné que son IA Gemini produisait des images historiquement inexactes de personnes, tels que les soldats allemands de l’ère nazie, issus de diverses races.
La société a déclaré qu’elle “travaillait déjà à résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini” et qu’elle “rééditerait” un version améliorée bientôt.”
Un ancien employé de Google partagé sur X $TWTR Gemini a représenté des générations d’une « femme australienne » et d’une « femme allemande », et a écrit qu’il était « embarrassant » d’amener Google Gemini à reconnaître que les Blancs existent. » Dans une autre requête pour « l’image d’un pape », un utilisateur a partagé les générations de Gémeaux d’une femme pape et d’une pape noire.
Un autre utilisateur qui s’identifie comme un ingénieur de recherche de Google a partagé un post sur X d’entre eux demandant à Gemini AI de « Peignez-moi une image historiquement précise représentation d’un roi britannique médiéval, et a reçu desimages de diverses raciales , y compris une femme dirigeante, avec Les Gémeaux répondent que c’était “rechercher”l’exactitude historique et l’inclusivité." D’autres utilisateurs ont souligné que Gemini serait éviter les demandes d’images de personnes blanches, qui a gagné des réponses de la foule anti-réveil en ligne.
Google a déclaré mercredi qu’il était conscient du problème et qu’il “travaillait” à améliorer ce genre de représentations immédiatement.
“La génération d’images IA de Gemini génère un large éventail de personnes”, Google a déclaré dans un déclaration“Et c’est généralement une bonne chose parce que des gens du monde entier l’utilisent. Mais ici, il manque la cible.”
Jack Krawczyk, le responsable produit pour Gemini, corrigé les inexactitudes du modèle le mercredi X, montrant problèmes plus larges de biais en matière d’IA lorsqu’il s’agit de représenter des personnes de couleur, ce qui aurait pu conduire à une surcorrection des Gémeaux dans les images.
« Dans le cadre de nos principes d’IA, nous concevons nos capacités de génération d’images pour refléter notre base d’utilisateurs mondiale et nous prenons en compte la représentation et les préjugés. sérieusement », a écrit Krawczyk, ajoutant que la société continuera à aborder le problème pour des invites ouvertes. « Les contextes historiques ont plus de nuances. à eux et nous nous adapterons davantage à cela.
Google a ajouté la génération d’images IA à son chatbot Bard au dé but du mois, et plus tard rebaptisé Bard en Gémeaux. Bard a été développé dans la tentative de Google de concourir avec ChatGPT Plus d’OpenAI, qui permet aux utilisateurs de générer des images en utilisant les capacités du générateur d’images d’OpenAI. DALL-E 3. Cependant, le trébuchement de Gemini survient alors qu’OpenAI semble aller plus loin avec son nouveau
Générateur de texte en vidéo IA, Sora, qui a été introduit la semaine dernière.Gemini a déclaré qu’il était incapable de générer des images de personnes à la demande d’un journaliste de Quartz jeudi matin.
Gemini said it was unable to generate images of people when prompted by a Quartz reporter on Thursday morning.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
