Sundar Pichai a abordé les erreurs controversées de l’outil d’IA dans une note adressée aux employés de Google. “Nous nous sommes trompés”, a-t-il déclaré
Après l’outil d’IA générative de Google $GOOGL Les Gémeaux ont suscité une controverse avec des images historiquement inexactes comme les nazis de diverses races, le PDG de Google SundarPichai a abordé les réponses de l’application dans une note adressée au personnel de Google. et a qualifié les réponses d’« inacceptables ».
« Je sais que certaines de ses réponses ont offensé nos utilisateurs et ont fait preuve de parti pris. Pour être clair, c’est complètement inacceptable et nous avons c’est faux”, a déclaré Pichai mardi soir dans la note rapportée par Semafor.
Pichai a déclaré que la société « a travaillé 24 heures sur 24 » pour résoudre les problèmes avec Gemini et qu’elle « constate déjà une amélioration substantielle de ses un large éventail d’invites.
« Aucune IA n’est parfaite, surtout à ce stade émergent du développement de l’industrie, mais nous savons que la barre est haute pour nous et nous nous continuerons à le faire aussi longtemps que cela prendra », a déclaré Pichai, ajoutant que Google « examinera ce qui s’est passé et s’assurera que nous corrigeons. à grande échelle. »
Google a déclaré la semaine dernière qu’il suspendrait la capacité du modèle d’IA à générer des images de personnes, après les utilisateurs ont commencé à signaler des images historiquement inexactes de générations de personnes — y compris des soldats allemands de l’ère nazie de origines raciales diverses — ainsi que des Gémeaux évitant apparemment les demandes d’images de personnes blanches.
“La génération d’images IA de Gemini génère un large éventail de personnes”, Google a déclaré dans un déclaration avant de mettre l’application en pause. « Et c’est généralement une bonne chose parce que des gens du monde entier l’utilisent. Mais ici, il manque la cible. »
Jack Krawczyk, le responsable produit pour Gemini, également résolu les problèmes de l’application la semaine dernière, notant des problèmes plus larges de biais en matière d’IA qui existent déjà autour de la génération d’images de personnes de couleur.
« Dans le cadre de nos principes d’IA, nous concevons nos capacités de génération d’images pour refléter notre base d’utilisateurs mondiale et nous prenons en compte la représentation et les préjugés. sérieusement », a écrit Krawczyk. « Les contextes historiques ont plus de nuances et nous nous adapterons davantage pour en tenir compte. »
Des capacités de génération d’images ont été ajoutées au chatbot Bard de Google — la réponse de l’entreprise au ChatGPT Plus d’OpenAI — début février. Bard était alorsrebaptisé Gemini.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
