« La seule façon de garantir que Google $GOOGL ne soit pas associé à de tels préjudices est de rejeter toute charge de travail classifiée », disait la lettre. « Sinon, de tels usages pourraient se produire sans notre connaissance ou le pouvoir de les arrêter. »
Une demande de commentaire envoyée à Google est restée sans réponse, Business Insider signalé.
Parmi ceux qui ont signé, Décrypter noté, on compte plus de 18 cadres supérieurs dont les titres vont de principal à vice-président ; la lettre demande également une divulgation complète des contrats actuels avec le ministère de la Défense et que Google crée un comité d'éthique permanent — incluant des employés — pour évaluer toute proposition de partenariat militaire à l'avenir.
La lettre arrive à un moment tendu pour la relation de l'industrie de l'IA avec le ministère de la Défense. Après qu'Anthropic ait tenté d'insérer une clause contractuelle interdisant que sa technologie soit appliquée à la surveillance de masse ou aux armes entièrement autonomes, le Pentagone a rompu ses liens avec l'entreprise en février. La légalité de cette décision est maintenant contestée devant un tribunal fédéral, selon The Washington Post.
Google a déjà fait face à une pression interne similaire. Les entreprises technologiques, y compris Google, ont rapidement élargi leurs partenariats militaires depuis la victoire électorale du président Donald Trump, abandonnant des années de politiques qui limitaient le travail de défense. Lorsque des milliers de travailleurs de Google ont signé une pétition contre le projet Maven en 2018, l'entreprise s'est finalement retirée du programme du ministère de la Défense, qui appliquait l'IA à l'interprétation des images de drones. Suite à ce retrait, Google a codifié un ensemble de principes d'IA qui excluaient explicitement les applications impliquant des systèmes d'armes ou de surveillance.
Ces garde-fous ont été discrètement retirés des principes d'IA de Google l'année suivante, et l'entreprise a séparément conclu un accord permettant au Pentagone d'utiliser son IA Gemini. En mars, Google s'était engagé à fournir des agents d'IA pour les opérations du ministère de la Défense, bien que dans un contexte non classifié ; le personnel de DeepMind avait déjà été informé lors d'une réunion interne en janvier que des accords similaires étaient à venir.
Les hauts responsables du ministère de la Défense ont déclaré que l'armée devrait être autorisée à utiliser l'IA commerciale dans toute situation légale. Ils soutiennent que cette approche garde leurs options ouvertes tout en respectant la loi américaine et les règles militaires.
