Le plan d’utilisation de la ville de New York L’IA pour aider les résidents et les entreprises Cela ne semble pas se dérouler sans heurts. En fait, le propre chatbot de la ville encourage les utilisateurs à enfreindre la loi.
Le chatbot IA de la ville, alimenté par Microsoft, donne aux utilisateurs de faux conseils et, dans certains cas, des conseils commerciaux illégaux, selon le site d’enquête à but non lucratif The Markup. trouve.
Dans un exemple, The Markup a demandé au chatbot si « les propriétaires doivent accepter des locataires bénéficiant d’une aide au location », ce à quoi le chatbot a répondu « Non , les propriétaires ne sont pas tenus d’accepter des locataires bénéficiant d’une aide au loyer. « basé sur une source de revenus légale », ce qui inclut l’assistance, a été une pratique illégale depuis 2008 à quelques exceptions (Lorsque Quartz a posé la même question au chatbot, le chatbot a répondu « Oui, les propriétaires sont obligés d’accepter des locataires sur aide à la location. »)
Lorsqu’on lui a demandé si un patron pouvait prendre une part des pourboires de son employé, le chatbot a répondu à The Markup en disant : “Oui, vous pouvez prenez une coupe des pourboires de vos travailleurs, et cité les informations sur la paie et les rapports sur les pourboires de New York. C’est égalementinexact, et le ministère du Travail de New York dit que les employeurs sont interdit de participer à une participation du conseil d’un employé. Le chatbot a donné une réponse similaire à Quartz.
Leslie Brown, porte-parole du Bureau de la technologie et de l’innovation de NYC, a déclaré dans une déclaration partagée avec Quartz que le chatbot est un programme pilote qui « a déjà fourni à des milliers de personnes des réponses précises et en temps opportun » tout en « les informant des risques potentiels ». La ville, a-t-elle ajouté, « continuera à se concentrer sur la mise à niveau de cet outil afin que nous puissions mieux soutenir les petites entreprises ».
Après que la ville de New York ait annoncé son plan en octobre visant à utiliser des outils d’IA pour améliorer les services gouvernementaux, le maire Eric Adams a fait face à des réactions négatives après avoir pris des décisions. des milliers d’appels automatisés adressés aux résidents de New York dans plusieurs langues, il ne parle pas — L’espagnol, le yiddish et le mandarin parmi eux. En février, le Comité fédéral des communications (FCC) a rendu illégaux les appels automatisés basés sur l’IA en vertu d’une loi de 1991 interdisant les appels indésirables utilisant des voix fausses ou préenregistrées.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.