La ligne qui empêche Apple Intelligence de dévier de sa route est assez mince
Certaines invites ont petites erreurs grammaticales, Ars Technica a découvert et montré à quel niveau de protection est mince entre une IA utile et une IA hors norme. Pour empêcher le bot IA d’halluciner, les instructions sont simplement « Ne pas halluciner » et « N’inventez pas d’informations factuelles ».
Un cas d’utilisation a montré à quel point il peut être facile de contourner les instructions simples fournies par Apple pour ses outils d’IA. L’invite qui s’affiche probablement pour le nouvel outil de génération de vidéos par IA d’Apple dans Photos, appelé « Memories », indique : « N’écrivez pas d’histoire religieuse, politique, nuisible, violente, sexuelle, sale ou de quelque manière que ce soit négative, triste ou provocatrice. » Bien que l’outil ne réponde pas à une demande de Wes Davis de The Verge pour des « images de tristesse », ils j’ai facilement obtenu l’outil pour sortir des limites en demandant « une vidéo de personnes en deuil » (qui, malheureusement, incluait une photo d’une sauterelle morte).
Tim Cook and Co. a dévoilé Apple Intelligence début juin lors de la conférence mondiale des développeurs de l’entreprise.
« Nous nous lançons dans un nouveau voyage pour vous apporter une intelligence qui vous comprend », a déclaré Craig Federighi, responsable de l’ingénierie logicielle d’Apple, lors du lancement. « Et elle est profondément intégrée à nos plateformes et à toutes les applications sur lesquelles vous comptez pour communiquer, travailler et vous exprimer. »
« Conçue de manière unique par Apple, l’intelligence d’Apple sera, selon nous, indispensable aux produits qui jouent déjà un rôle essentiel dans nos vies », a ajouté Cook.
L’annonce d’Apple Intelligence a généré beaucoup de buzz : les actions d’Apple ont bondi alors que les investisseurs prédisaient que l’entreprise allait révolutionner l’industrie des smartphones avec « Intelliphones » alimentés par l’IA. Le battage médiatique s’est atténué lorsque des rapports ont fait surface disant Apple a repoussé le déploiement de ses fonctionnalités d’IA. Pourtant, les outils sont disponible en mode bêta pour les développeurs.
Mark Gurman, de Bloomberg, a fait remarquer qu’Apple avait encore un long chemin à parcourir pour être à la hauteur de ce battage médiatique.
« Après avoir testé moi-même la première version bêta d’Apple Intelligence, je peux vous dire que les fonctionnalités ne sont pas encore à la hauteur de l’enthousiasme suscité », a-t-il écrit dans sa newsletter ce week-end. « Dans leur état actuel, elles sont bien loin de la technologie révolutionnaire que les fans et les investisseurs espèrent qu’Apple Intelligence deviendra. »
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
