Google $GOOGL s’apprête à relancer son générateur d’images alimenté par l’intelligence artificielle , Gémeaux, quelques semaines après suspendu le service pour des photos historiquement inexactes la société a appelé “embarrassant et faux.”
Google a suspendu son service après un tollé public contre des nazis de diverses races, entre autres images
Google $GOOGL s’apprête à relancer son générateur d’images alimenté par l’intelligence artificielle , Gémeaux, quelques semaines après suspendu le service pour des photos historiquement inexactes la société a appelé “embarrassant et faux.”
Les utilisateurs qui testaient le service la semaine dernière avaient découvert que Gemini avait des difficultés à générer des images historiques de personnes avec précision, généralement en changeant de race ou de sexualité.
Parmi les images des centaines publiées sur les réseaux sociaux la semaine dernière étaient des photos représentant des versions racialement diverses de Soldats allemands de l’époque nazie et Pères fondateurs des États-Unis. Un utilisateur a documenté son expérience en demandant une « image d’un pape »et en recevant des photos d’une femme pape et d’un pape noir; un autre demandé pour des photos d’une « représentation historiquement exacte d’un roi britannique médiéval » et j’ai reçu un ensemble d’images représentant une dirigeante féminine et un groupe racial. des hommes divers.
L’accent mis par Gemini sur la diversité et l’inclusivité , bien que « une fonctionnalité bien intentionnée a été appliquée, il s’avère trop directement », PDG de Google DeepMind et Le co-fondateur Demis Hassabis a déclaré lundi lors d’un panel discutant de l’IA à la conférence Mobile World Congress à Barcelone.
“Nous avons mis hors ligne [Gemini] pendant que nous corrigeons ce problème”, a ajouté Hassabis. “Nous espérons que cela soit de nouveau en ligne très prochainement dans les prochaines semaines, quelques semaines.
Google avait ajouté génération d’images à son chatbot Bard au début du mois avant de renommer Bard en Gemini. Le responsable produit pour Gemini, Jack Krawczyk, s’est adressé à les problèmes dans un message maintenant supprimé sur X $TWTR, expliquant qu’ils avaient surcorrigé avec le modèle de Gemini en tentant de combattre Biais généralisé en matière d’IA avec représentations de les gens de couleur.
Le fiasco des Gémeaux n’était qu’un rouage dans un semaine embarrassante pour l’industrie de l’IA. ChatGPT d’OpenAI ”est devenu fou furieux» mardi (20 février), a généré un large éventail de réponses absurdes . Pendant ce pendant la plateforme de médias sociaux d’extrême-droite Gab lancé Des chatbots IA négationnistes de l’Holocauste, inspirés d’Adolf Hitler et d’Oussama Ben Laden.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.