Donald Trump ordonne aux agences américaines de stopper l’usage de l’IA d’Anthropic

Vendredi 27 février, Donald Trump a ordonné à toutes les agences du gouvernement des États-Unis de cesser immédiatement toute utilisation de la technologie d’intelligence artificielle d’Anthropic.

Anthropic pose des conditions à l’usage de sa technologie

Le Président américain réagit à la décision d’Anthropic de poser ses conditions d’utilisation de ses technologies par le ministère de la guerre américain. Cela a mis hors de lui le Président qui accuse la startup de ne pas respecter la Constitution des Etats-Unis et de mettre en danger des vies américaines, les troupes et la sécurité nationale.

Une période de transition de six mois sera mise en place pour les agences comme le Département de la Guerre qui utilisent les produits d’Anthropic à différents niveaux. Le Président menace Antropic. « Anthropic a intérêt à se ressaisir et à coopérer durant cette période, faute de quoi j’userai de tous les pouvoirs de la Présidence pour les contraindre à se conformer à la loi, avec des conséquences civiles et pénales majeures à la clé » annonce Donald Trump.

Le Président des Etats-Unis dénonce Anthropic comme étant une entreprise « d’extrêmistes de gauche ». «  C’est nous qui déciderons du sort de notre pays – et non une entreprise d’IA d’extrême gauche incontrôlable, dirigée par des personnes totalement déconnectées de la réalité » affirme-t-il.  

Donald Trump affirme ne pas avoir besoin d’Anthropic

Pour Donald Trump, les États-Unis d’Amérique ne permettront jamais à une entreprise d’extrême gauche, adepte du « woke », de dicter la manière dont ses forces armées mènent et gagnent les guerres. « Cette décision revient à votre commandant en chef et aux excellents dirigeants que je nomme pour diriger nos forces armées » poursuit-il, déclarant ne pas avoir besoin d’Anthropic.  « Nous n’en avons pas besoin, nous n’en voulons pas et nous ne ferons plus jamais affaire avec eux ! » écrit-il sur son réseau social TruthSocial.

Ce différend majeur concernant l’utilisation militaire de l’intelligence artificielle a éclaté au grand jour semaine dernière, lorsque le secrétaire à la Défense, Pete Hegseth, a brutalement mis fin à la collaboration d’Anthropic avec le Pentagone et d’autres agences gouvernementales. Anthropic est accusé de mettre en danger la sécurité nationale après que son DG, Dario Amodei, a refusé de céder sur l’usage des produits de l’entreprise pour la surveillance de masse ou les armes autonomes.

Côté Anthropic, la startup met en avant son patriotisme tout en restant inflexible sur ses lignes rouges. « Je crois profondément en l’importance existentielle de l’utilisation de l’IA pour défendre les États-Unis et les autres démocraties, et pour vaincre nos adversaires autocratiques » déclare le DG d’Anthropic. Il souligne qu’Anthropic a œuvré de manière proactive pour déployer ses modèles auprès du Département de la Guerre et de la communauté du renseignement.

Anthropic défend sa bonne foi et sa volonté de coopérer avec le gouvernement

Le DG rappelle les actions d’Anthropic au service des Etats-Unis. « Nous avons été la première entreprise d’IA de pointe à déployer nos modèles au sein des réseaux classifiés du gouvernement américain, la première à les déployer dans les Laboratoires nationaux et la première à fournir des modèles personnalisés aux clients du secteur de la sécurité nationale » défend-il.

Le DG décrit sa solution Claude comme étant largement déployée au sein du Département de la Guerre et d’autres agences de sécurité nationale pour des applications critiques, telles que l’analyse du renseignement, la modélisation et la simulation, la planification opérationnelle, les opérations cyber, etc.

Le DG met en avant la loyauté nationale de sa société. « Nous avons choisi de renoncer à plusieurs centaines de millions de dollars de revenus pour empêcher l’utilisation de Claude par des entreprises liées au Parti communiste chinois dont certaines ont été désignées comme entreprises militaires chinoises par le Département de la Guerre »  se félicite-t-il. “Nous avons déjoué des cyberattaques commanditées par le PCC [Parti communiste chinois] qui tentaient d’exploiter Claude et nous avons plaidé en faveur de contrôles stricts à l’exportation des processeurs afin de garantir un avantage démocratique” poursuit-il.

Protéger les valeurs démocratiques

Le DG d’Anthropic pose cependant ses lignes rouges, à la fois dues aux limites actuelles de l’IA et aux atteintes aux valeurs démocratiques. « Dans certains cas précis, nous pensons que l’IA peut saper, plutôt que défendre, les valeurs démocratiques. Certaines utilisations dépassent également les capacités de la technologie actuelle, qui permet de garantir la sécurité et la fiabilité » explique-t-il.

Il précise que deux cas d’utilisation n’ont jamais été inclus dans ses contrats avec le Département de la Guerre, et il estime qu’ils ne devraient pas l’être maintenant. Il s’agit de la surveillance intérieure de masse des Américains et des armes entièrement autonomes. « Nous soutenons l’utilisation de l’IA pour des missions légitimes de renseignement et de contre-espionnage à l’étranger. Mais l’utilisation de ces systèmes pour la surveillance intérieure de masse est incompatible avec les valeurs démocratiques » tranche-t-il.

Il s’oppose également aux armes entièrement autonomes gérées par l’IA pour des raisons d’insuffisance de fiabilité actuellement. « Les armes partiellement autonomes, comme celles utilisées aujourd’hui en Ukraine, sont essentielles à la défense de la démocratie. Même les armes entièrement autonomes celles qui éliminent totalement l’intervention humaine et automatisent la sélection et l’engagement des cibles pourraient s’avérer cruciales pour notre défense nationale » reconnaît-il.

L’IA n’est pas fiable pour des armes autonomes

Mais il estime que l’IA n’est pas assez fiable pour piloter des armes de manière entièrement autonome. « Aujourd’hui, les systèmes d’IA de pointe ne sont tout simplement pas assez fiables pour alimenter des armes entièrement autonomes » prévient-il.

Il déclare que c’est une précaution de bon sens de ne pas utiliser de tels systèmes car les armes pourraient se retourner contre leurs utilisateurs. « Nous ne fournirons pas sciemment un produit qui mette en danger les militaires et les civils américains » pose-t-il.

Le DG déclare avoir proposé de collaborer directement avec le Département de la Guerre sur la recherche et le développement afin d’améliorer la fiabilité de ces systèmes, mais que cette offre a été refusée. « Sans supervision adéquate, on ne peut se fier aux armes entièrement autonomes pour faire preuve du même jugement critique que nos troupes professionnelles et hautement entraînées au quotidien. Leur déploiement doit être encadré par des garde-fous appropriés, qui n’existent pas actuellement » alerte-t-il.

Anthropic deviendrait un risque pour la chaîne d’approvisionnement

Le DG déclare que les conditions posées par le Département de la Guerre étaient d’accepter « toute utilisation légale » et de supprimer les gardes fous qu’il veut mettre en place sur la surveillance de masse et des armes autonomes. Il déplore que le Département de la Guerre les menace de désigner Anthropic comme un « risque pour la chaîne d’approvisionnement ».

« Cette étiquette est réservée aux adversaires des États-Unis, jamais appliquée auparavant à une entreprise américaine » relève-t-il. Il déplore également le fait qu’il soit invoqué la loi sur la production de défense pour contraindre Anthropic à la suppression des garde-fous. « Ces deux dernières menaces sont intrinsèquement contradictoires. L’une nous qualifie de risque pour la sécurité ; l’autre qualifie Claude d’essentiel à la sécurité nationale. Quoi qu’il en soit, ces menaces ne modifient pas notre position : nous ne pouvons en conscience accéder à leur demande » insiste-t-il.

Le DG se déclare prêt à continuer de coopérer avec le département de la guerre avec les conditions posées. « Il appartient au Département de choisir les prestataires dont la vision correspond le mieux à la sienne. Mais compte tenu de la valeur considérable que la technologie d’Anthropic apporte à nos forces armées, nous espérons qu’il reviendra sur sa décision » ajoute-t-il.  

Le DG d’Anthropic ne cédera pas sur les conditions d’usage

Il se prépare cependant à assurer une transition en douceur vers un autre fournisseur, afin d’éviter toute perturbation des activités militaires en cours, de la planification, des opérations ou des autres missions critiques. « Nos modèles resteront disponibles aux conditions étendues que nous avons proposées, aussi longtemps que nécessaire » finit-il.

Ceci dit, selon l’Associated Press, Anthropic a annoncé son intention de porter plainte contre la décision de Pete Hegseth de la désigner comme un risque pour la chaîne d’approvisionnement, une mesure sans précédent consistant à appliquer à une entreprise américaine une loi destinée à contrer les menaces étrangères.

Anthropic a déclaré qu’elle contesterait ce qu’elle qualifie d’action juridiquement infondée « jamais appliquée publiquement auparavant à une entreprise américaine ». Une éventuelle bataille juridique et le basculement des budgets militaires vers d’autres fournisseurs pourraient avoir des répercussions majeures sur le développement des géants américains de la technologie dans l’IA, qu’il s’agisse d’Amazon, Microsoft, Meta, Google, Grok, OpenAI et Anthropic.