10 exploits modernes d’automatisation qui étaient juste des humains déguisés

Épiceries Amazon progressivement éliminé Il suffit de se sortir mardi. La technologie d’Amazon Fresh aurait utilisé un système automatisé de scanners et de caméras pour vous appeler sans aucun paiement. vous avez simplement scanné un code QR lorsque vous êtes entré, que vous avez fait vos courses et que vous êtes sorti. Incroyable, n’est-ce pas ?

Eh bien, il s’avère qu’Amazon s’est fortement appuyé sur une équipe de plus de 1 000 associés en Inde pour réaliser cet exploit d’automatisation. En 2022, environ 70 % des clients de Just Walk Out devaient être examinés par des associés humains.

Une société nommée Presto Voice a vendu ses services « d’automatisation du drive » à Carl’s Jr, Chili’s et Del Taco. La société affirmait laissez AI prendre votre commande au volant et proposez de remplacer les travailleurs du service par sa technologie.

Les documents déposés auprès de la SEC ont récemment révélé que les humains doivent aider avec plus de 70 % des commandes de Presto. Presto a utilisé des travailleurs hors site aux Philippines pour écouter les commandes des clients et les insérer manuellement dans les systèmes informatiques d’un restaurant plus de la moitié à l’époque. Il s’agissait d’un autre appât et d’un changement dans lequel les travailleurs à distance se faisaient passer pour une véritable automatisation.

Facebook a lancé un assistant virtuel nommé M en 2015. Il a parlé avec les utilisateurs via Facebook Messenger, et l’IA pourrait prétendument réserver votre film. des billets, vous indiquer la météo ou même commander de la nourriture dans un restaurant local. Si vous êtes curieux de savoir comment Facebook a développé une IA générative chatbot en 2015, la réponse est que non.

Il y avait un système d’IA très dans les travaux autour de M, mais surtout l’assistant n’était que des opérateurs humains qui intervenaient et effectuaient des tâches pour les gens. L’idée était qu’à terme, M deviendrait suffisamment intelligent pour fonctionner de manière indépendante, mais cela n’a jamais fait. M a seulement été relâché dans un un petit groupe de bêta-testeurs parce que Facebook ne pouvait pas « se permettre d’embaucher des opérateurs pour que le monde entier soit leur assistant personnel ».

Vous vous en souviendrez peut-être impressionnante démo Gemini en décembre 2023. Il a montré comment l’IA de Gemini pourrait prétendument déchiffrer les entrées vidéo, image et audio en temps réel. une démonstration impressionnante qui, quatre mois plus tard, est encore loin de la réalité. Alors, que s’est-il passé ?

Cette vidéo s’est avérée être soigné. D’une part, la vidéo a été accélérée et éditée. Sans oublier que les humains ont en fait nourri les Gémeaux avec de longues invites de texte et d’image à produire aucune de ses réponses. Les Gémeaux sont entièrement libérés aujourd’hui, mais ils peuvent à peine répondre aux questions controversées, et encore moins faire les backflips. il a joué dans cette démo.

Il s’agit d’une place de marché d’Amazon littéralement nommée d’après le phénomène des Turcs mécaniques. Un peu trop au nez ? C’est une place de marché où les développeurs peuvent embaucher des humains pour accomplir des tâches, les ordinateurs ont du mal Les tâches pourraient être presque n’importe quoi, de l’étiquetage des images à la formation de l’intelligence artificielle en passant par la modération du contenu en ligne.

De vraies personnes pouvaient être payées aussi peu qu’un centime pour une tâche, en grande partie pour des tâches où les humains se faisaient passer pour des automates. des histoires qui ont fait fait surface autour de ce où des travailleurs de travail à un travail ont été exposés à des images graphiques ou à transcrire des numéros de Sécurité Sociale.

Une utilisation notoire d’Amazon Mechanical Turk était Expensify en 2017. La société de déclaration de dépenses avait une fonction permettant de prendre une photo de un reçu et le dépensera pour vous. L’application vérifiera automatiquement qu’il s’agit d’une dépense conforme aux règles de votre employeur et classera à l’endroit approprié. Pouvez-vous deviner ce qui se passe ?

Lorsque l’IA a échoué, Expensify a déclaré qu’elle avait utilisé une équipe de techniciens sécurisés pour classer les dépenses en votre nom. Il s’est avéré qu’il s’agissait de travailleurs mécaniques turcs d’Amazon. dans certaines circonstances, selon les reçus repérés par les utilisateurs de Twitter. Cela signifie que de vrais humains consultaient des informations privées telles que des numéros de carte de crédit, noms complets, adresses, commandes de nourriture, et plus encore. On ne sait pas combien de ces notes de frais ont été déposées par des humains.

Avant que X.ai ne soit la société d’IA d’Elon Musk, la startup d’IA avait une histoire mouvementée. En 2016, X.ai proposait des assistants virtuels qui avaient accès à votre calendrier et pourrait correspondre avec vous par e-mail. Cependant, derrière chaque e-mail se trouvait un être humain, dont un jeune de 24 ans qui a parlé avec Bloomberg.

Les humains, se faisant passer pour une IA, répondaient à des courriels, planifiaient des réunions sur des calendriers et commandaient même de la nourriture pour les gens. cas où l’entreprise affirmait que l’IA en était à ses débuts. les parties impressionnantes.

Google avait l’habitude de laisser ses ordinateurs analyser votre boîte de réception Gmail pour obtenir des informations afin de personnaliser les annonces, mais il s’est ensuite juré d’arrêter. Cependant, cela n’a pas été le cas. Cela n’empêche pas l’entreprise de laisser des développeurs humains externalisés prendre en charge ce travail.

Les employés d’Edison Software ont déclaré Le Wall Street Journal en 2018 comment ils avaient personnellement examiné des centaines d’e-mails d’utilisateurs pour créer de nouvelles fonctionnalités. D’autres entreprises ont permis à leurs employés de lire les e-mails pour former des logiciels et développer d’autres outils marketing.

Une source a qualifié le « sale secret » de l’industrie du fait que les humains lisaient les e-mails des gens. « C’est en quelque sorte une réalité. »

Elizabeth Holmes a récemment été envoyée en prison pour fraude massive autour de son entreprise Theranos. L’entreprise affirmait avoir créé un appareil automatisé de tests sanguins qui pourrait permettre d’évaluer avec précision la santé d’un patient avec quelques gouttes de sang prélevées d’un doigt.

Cependant, il s’est avéré que ce n’était rien d’autre que de la fumée et des miroirs. Il n’y a eu aucune percée dans le domaine des tests sanguins automatisés. Lors de démonstrations pour la pharmacie cadres, des employés de Theranos effectuaient en secret des tests sur des équipements de laboratoire extérieurs. Il s’agissait de l’une des plus grandes fraudes en matière d’automatisation de l’histoire, qui a envoyé Holmes pour une peine de 11 ans en 2023.

Même les entreprises d’IA modernes ne sont pas exonérées de ce comportement. derrière Scale AI, la startup de 7 milliards de $basée à San Francisco, est à des travailleurs des Philippines forment ses modèles, selon Le Washington Post. Ces travailleurs veillent au que les modèles d’intelligence artificielle fonctionnent avec précision. Ils étiquetent des milliers d’images comme divers hommes politiques et célébrités , modifient des morceaux de texte et entraînez des modèles vidéo pour identifier divers objets.

Il s’agit de la partie la moins automatisée des systèmes d’IA modernes. Elle nécessite des milliers de travailleurs à distance pour former ces systèmes et ces employés. sont souvent sous-payés et travaillent dans des conditions ridicules. Scale AI fonctionne pour des entreprises telles que Meta, Microsoft et OpenAI.