Les chatbots IA ont fait la une des journaux cette semaine avec une série de ratés flagrants qu’il était difficile de négliger. Les entreprises technologiques se précipitent pour se montrer. leurs chatbots IA non offensifs et sans erreur. Ils espèrent montrer aux investisseurs que les milliards de dollars dépensés pour cette technologie étaient un bon investissement.Cette semaine, les chatbots IA ont montré qu’ils ne sont pas encore prêts à être sous le feu des projecteurs.
L’IA déraillée
Les Gemini de Google ont offensé de nombreux utilisateurs en refusant de générer des personnes blanches et en transformant des personnages historiquement blancs en personnages multiraciaux. L’entreprise a fini par s’excuser, et puis suspendre complètement la fonctionnalité de création de personnes de son générateur d’images IA pour y remédier. Le moment embarrassant, présenté dans Le New York Post Jeudi, cela arrive à peine deux semaines après la sortie à plus grande échelle de Gemini par Google.
Chez OpenAI, ChatGPT est devenu fou cette semaine, débitant des charabia qui ont brièvement rendu le service inutile pour de nombreux utilisateurs, y compris certains rapports d’entreprises utilisant ChatGPT Enterprise. OpenAI a déclaré plus tard que le le problème a été causé par un “optimisation» qui a introduit un bug, bouleversant complètement la façon dont ChatGPT génère des réponses.
Enfin, Gab, une plateforme de médias sociaux d’extrême-droite, lancement des versions de chatbot IA d’Adolf Hitler et d’Oussama ben Laden, qui nient l’existence de l’Holocauste. On ne sait pas quel grand modèle de langage alimente les chatbots IA de Gab à l’heure actuelle. Les chatbots est beaucoup plus petit que Gemini ou ChatGPT, mais Le PDG Andrew Torba déclare que leurs utilisateurs augmentent de 20 000 personnes par jour. Gab AI, comme Grok, est présenté comme une alternative aux chatbots d’IA « réveillés » comme Gemini et ChatGPT.
Offenser des deux côtés de l’allée, sans informer ni l’un ni l’autre
Cette semaine, Gemini et Gab ont offensé les conservateurs et les libéraux. OpenAI, le plus outil d’IA pour les entreprises largement adopté, a montré à quel point elle peut être peu fiable. Cela conduit à la question, une fois en core de savoir si l’IA se développe trop rapidement.
Google et OpenAI se sont précipités pour que les chatbots IA soient poussés dans le monde, mais la technologie derrière eux est très nouvelle. L’IA est testée en temps réel, devant tout le monde, et le rythme auquel ces entreprises expédient de nouveaux produits est sans précédent. Elles ont fait de grands progrès, mais quelques erreurs assez importantes comme eh bien.
« L’alignement, c’est-à-dire le contrôle du comportement et des valeurs d’un modèle, est encore une discipline assez jeune », a déclaré John Schulman, co-fondateur d’OpenAI, dans un rapport tweeter“Cela dit, ces cris publics [sont] importants pour nous inciter à résoudre ces problèmes et à développer une meilleure technologie d’alignement”, a-t-il déclaré. dans un suivi.
Pendant ce temps, les acteurs des grandes technologies, comme Apple, se sont montrés plus conservateurs dans leurs efforts en matière d’IA, attendant que d’autres résolvent les problèmes. Apple devrait avoir une grande mise à jour de l’IA dans le courant 2024, dans l’espoir d’expédier un produit plus propre que Gemini et ChatGPT.
Que l’IA soit prête ou non, Google et OpenAI sont trop profonds pour faire marche arrière maintenant. Gemini et ChatGPT auront probablement plus de problèmes se présenteront l’année prochaine, mais ces entreprises devront les comprendre en temps réel devant tout le monde.
Cet article a été initialement publié sur Gizmod0.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.