L’outil AI Overviews de Google a attiré l’attention sur certaines réponses déroutantes aux recherches. Attendez-vous à ce que davantage de problèmes apparaissent à mesure que l’IA est intégrée à davantage de produits
Lorsque Google $GOOGL a dévoilé sa fonctionnalité de recherche basée sur l’IA le mois dernier, il s’est vanté que le nouvel outil « ferait la recherche sur Google à votre place ». Appelée AI Overviews, cette nouvelle fonctionnalité fournit des résumés concis, générés par l’IA, avec des informations clés et des liens, affichés en haut des résultats de recherche.
L’Internet, comme il le fait, a rapidement humilié le géant de la technologie, vérifiant ses capacités comme les rapaces dans Jurassic Park testant les clôtures pour détecter les faiblesses. Les gens ont découvert Des aperçus de l’IA donnant des réponses déroutantes aux recherches, y compris des suggestions telles que manger une pierre par jour et utiliser de la colle sur une pizza.
Liz Reid, responsable de Google Search, a écrit un article de blog jeudi dernier, elle a essayé d’expliquer tout cela. De nombreuses recherches étaient si rares qu’il n’y avait aucune information pertinente à extraire, ce qu’elle a appelé un « vide de données ». D’autres causes, notamment l’exemple d’une pierre par jour, ont été tirées de sites satiriques, comme The Onion. Dans son mea culpa, elle a pris soin de noter que ce n’était pas aussi grave que cela paraissait sur les réseaux sociaux, écrit : « [I]l y a eu un grand nombre de fausses captures d’écran largement partagées. »
Les aperçus de l’IA ont suscité beaucoup d’attention parce qu’il s’agissait d’un nouveau cas d’utilisation pour intelligence artificielle générative cela pourrait exposer toute personne qui a manqué la folie de l’IA à la technologie en la mettant au premier plan et au centre d’une activité Internet que de nombreuses personnes effectuent une douzaine de fois par jour. Aussi grand et aussi rapidement que l’IA générative est devenue — ChatGPT est arrivé 100 millions d’utilisateurs actifs en deux mois, dépassant le record précédent de TikTok de neuf mois — la portée de Google pourrait éclipser ce record.
Il y a 8,5 milliards de recherches Google par jour, du moins selon une réponse d’AI Overviews à la question « Combien de recherches Google y a-t-il par jour ? » AI Overviews est une opportunité pour le géant de la technologie de montrer à un plus grand nombre de personnes la puissance (et les dangers) de l’IA générative, une technologie sur laquelle Google mise beaucoup.
Reid a promis des correctifs, mais d’autres problèmes vont faire surface à mesure que les grands modèles de langage (LLM) qui alimentent les chatbots IA seront intégrés à davantage de produits, a déclaré Delip Rao, chercheur indépendant associé à l’Université de Pennsylvanie. Dans le cas d’AI Overviews, Google a rencontré deux problèmes principaux, a déclaré Rao : de mauvaises données et des « hallucinations ».
Internet regorge de mauvaises données. Google peut limiter les sites sur lesquels il récupère des données et mettre en place davantage de garde-fous pour les recherches sensibles, comme celles portant sur des sujets de santé, ce que Reid a déclaré que l’entreprise envisage de faire. Mais les hallucinations (le nom donné à ce phénomène lorsque l’IA générative semble inventer des informations) sont un problème sans solution facile, a déclaré Rao.
« Ce qui rend le modèle créatif le rend également responsable d’hallucinations », a-t-il déclaré. « On ne peut pas avoir l’un sans l’autre. »
Rao, qui a utilisé l’IA pour créer un outil de vérification des faits, espère toujours que des correctifs tels que les vérifications automatisées des faits, la détection des controverses et les scores de crédibilité pourraient améliorer AI Overviews.
« L’IA dans la recherche ne disparaîtra pas », a-t-il déclaré. « Nous serons coincés avec cela. [Mais] beaucoup de problèmes seront réduits. »
Dans un communiqué, Google a déclaré qu’il mettait déjà en œuvre des améliorations, affirmant avoir apporté plus d’une douzaine de mises à jour techniques à AI Overviews.
« Les aperçus d’IA aident les utilisateurs sur un grand nombre de requêtes dans la recherche aujourd’hui, servant de point de départ vers du contenu sur le Web », a déclaré un porte-parole de Google.
Les observateurs du secteur technologique ont vu la société mère de Google, Alphabet, comme rattraper son retard depuis qu’OpenAI a lancé ChatGPT en novembre 2022. Google a fait des progrès — les revenus ont augmenté de 15 % dans son dernier rapport sur les bénéfices en avril, et son chatbot, qui utilise la même technologie qui alimente AI Overviews, s’est classé troisième dans un récent Wall Street Journal test de chatbots.
Mais AI Overviews n’est pas le premier faux pas de Google en matière d’IA. L’entreprise a supprimé son générateur d’images IA après que l’outil ait créé des images historiquement inexactes, notamment des photos de nazis de diverses origines raciales.
Malgré ces erreurs, Olivier Toubia, professeur de marketing à l’université de Columbia, a déclaré que Google avait adopté jusqu’à présent une approche plus prudente par rapport à d’autres entreprises créant des modèles d’IA. C’était probablement intentionnel, a-t-il déclaré.
« Bien sûr, ils perdent peut-être cette dimension avant-gardiste d’être à l’avant-garde, mais en même temps, ils pourraient développer la perception qu’ils sont l’entreprise technologique responsable », a déclaré Toubia.
Mais une approche prudente doit finalement céder la place aux besoins du marché. Google a lancé AI Overviews après la start-up de recherche IA Perplexité et Copilote de Microsoft $MSFT a commencé à intégrer l’IA à la recherche d’une manière qui pourrait menacer la domination de Google.
Le géant de la recherche a probablement un avantage : les gens sont plus susceptibles d’utiliser une seule entreprise familière au lieu de deux pour leurs besoins en matière d’IA générative et de recherche. La commodité peut rendre les utilisateurs plus indulgents. Les consommateurs sont depuis longtemps conditionnés à ne pas croire tout ce qui se trouve sur Internet. Il ne serait donc pas nouveau de se méfier d’une recherche Google alimentée par l’IA.
« Les gens ne vont pas s’en aller en disant : “Je n’utiliserai plus jamais l’IA générative” », a déclaré Toubia.
Mais comme Google ajoute davantage de fonctionnalités d’IA à d’autres produits, des problèmes pourraient surgir que les gens seraient moins disposés à pardonner — tels que des problèmes de préjugés et de confidentialité.
« Il y a des choses plus inquiétantes que de se faire dire d’utiliser de la colle sur une pizza », a déclaré Toubia.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
