Le Pentagone réexamine les contrats à cause des préoccupations concernant la sécurité de l’IA

Anthropic, reconnu pour son engagement envers la sécurité de l’IA, se retrouve en désaccord avec le Département de la Défense alors que le Pentagone réévalue un contrat important d'une valeur supposée de 200 millions de dollars. Le cœur du désaccord réside dans la position éthique d’Anthropic, qui interdit l'utilisation de son IA dans l’armement autonome et les opérations de surveillance. Cette position a suscité des préoccupations au Pentagone, les responsables militaires soulignant la nécessité d'applications de l’IA flexibles dans les scénarios de défense. Avec des entreprises similaires comme OpenAI et Google s'efforçant de se conformer aux exigences de la défense, la position d'Anthropic pourrait entraîner sa classification comme un 'risque pour la chaîne d'approvisionnement.' Les experts en sécurité de l’IA soutiennent que cette situation met en évidence la tension entre le développement éthique de l'IA et les exigences gouvernementales en matière d'efficacité militaire. Alors que d'autres entreprises naviguent dans ces eaux réglementaires, l'avenir de l’IA dans les contextes militaires reste une question litigieuse.