Un fournisseur de logiciels ne sera pas autorisé à mentir sur l’exactitude de sa technologie de reconnaissance faciale basée sur l’intelligence artificielle en vertu d’un nouveau projet d’ordonnance de l’administration Biden.
Mardi, la Commission fédérale du commerce (FTC) a déclaré qu’un ordonnance de consentement proposée avec IntelliVision Technologies empêcherait la société basée à San José, en Californie, de faire des déclarations trompeuses sur son logiciel. Cela inclurait toute déclaration trompeuse sur ses performances en matière d’identification des personnes de sexe, d’ethnie et de couleur de peau différents.
L’entreprise basée à San José, en Californie, ne serait pas non plus autorisée à faire des déclarations sur sa technologie sans des tests « compétents et fiables » pour les étayer.
Au cours des six dernières années, IntelliVision a affirmé que ses modèles s’étaient entraînés sur des millions de visages du monde entier et qu’ils n’avaient « aucun préjugé sexuel ou racial », selon l’agence. plainte. Un fiche d’information Sur le site Web de l’entreprise, il est indiqué que sa technologie a une précision « pouvant atteindre +99 % ».
Si c’était vrai, ce serait un énorme problème. Depuis des années, la technologie de reconnaissance faciale rencontre des problèmes identifier femmes et individus non-blancs.
En 2018, un étude Des chercheurs de Microsoft ont découvert que les logiciels de reconnaissance faciale pouvaient être erronés jusqu’à un tiers du temps lorsqu’ils étaient utilisés pour identifier des femmes à la peau foncée, même s’ils obtenaient des résultats presque parfaits avec des hommes à la peau claire. Ces problèmes ont est resté en grande partie un problème, et plusieurs entreprises j’ai rencontré des problèmes à cause de cela.
Le Institut national des normes et de la technologie, qui est géré par le ministère du Commerce, a testé les algorithmes d’IntelliVision. L’organisation a constaté que les algorithmes d’IntelliVision ne figuraient même pas parmi les 100 meilleurs testés en décembre 2023, a allégué la FTC dans sa plainte.
Au lieu de tester sa technologie sur des millions de visages, IntelliVision a pris un raccourci, selon la FTC, en s’entraînant sur des images de quelque 100 000 personnes, puis en créant des variantes de ces images pour des tests supplémentaires. La FTC a également déclaré que la société n’avait aucune preuve que sa technologie anti-usurpation d’identité ne pouvait pas être trompée par une photo.
« Les entreprises ne devraient pas vanter les mérites de systèmes d’intelligence artificielle exempts de préjugés à moins qu’elles ne puissent étayer ces affirmations », a déclaré Samuel Levine, directeur du Bureau de la protection des consommateurs de la FTC, dans un communiqué. « Ceux qui développent et utilisent des systèmes d’IA ne sont pas exemptés des principes de base en matière de publicité mensongère. »
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.