Anthropic développe un IA-espion pour le gouvernement américain
amsterdam, zondag, 8 juni 2025.
Anthropic a développé un chatbot IA nommé Claude Gov spécialement conçu pour traiter des informations confidentielles pour le gouvernement américain. Ce chatbot aide à la planification stratégique, l’analyse des renseignements et le soutien opérationnel, avec un accès limité aux employés du gouvernement. Un aspect intéressant est que Claude Gov est meilleur dans la reconnaissance et la traduction des langues et des dialectes, ce qui est crucial pour le travail des renseignements. Cependant, il est essentiel que l’IA ne produise pas d’hallucinations, car des informations incorrectes peuvent avoir des conséquences graves pour la sécurité nationale.
Claude Gov : Une IA-espion pour le gouvernement américain
Anthropic a développé un chatbot IA nommé Claude Gov spécialement conçu pour traiter des informations confidentielles pour le gouvernement américain. Ce chatbot aide à la planification stratégique, l’analyse des renseignements et le soutien opérationnel, avec un accès limité aux employés du gouvernement. Un aspect intéressant est que Claude Gov est meilleur dans la reconnaissance et la traduction des langues et des dialectes, ce qui est crucial pour le travail des renseignements [1].
Différences avec la version grand public
Claude Gov diffère considérablement de la version grand public de Claude. Tandis que le Claude ordinaire érige rapidement une barrière lorsque des informations confidentielles sont mentionnées, Claude Gov est au contraire spécialisé dans les informations confidentielles. Il peut, par exemple, traiter des documents de défense et est meilleur dans la reconnaissance et la traduction des langues et des dialectes. Néanmoins, il subit les mêmes tests de sécurité que les autres modèles Claude [1].
Mesures de sécurité et risques
L’utilisation de l’IA dans le secteur de la sécurité implique qu’il n’y ait pas d’hallucinations. Les réseaux neuronaux d’IA fonctionnent sur la base de probabilités statistiques et peuvent donc mal informer les services de renseignement si elles ne sont pas utilisées correctement. Le risque de générer des informations incorrectes est donc significatif, surtout dans un contexte où les enjeux sont élevés. Par conséquent, une supervision humaine est nécessaire pour éviter les erreurs et garantir l’intégrité des informations [1].
Autres IA-espions
Claude Gov n’est pas la seule IA utilisée dans les services de renseignement et la défense. Microsoft a lancé en 2024 une version « espion » de GPT-4 d’OpenAI, qui fonctionnait sur un réseau séparé accessible uniquement au gouvernement. Ce réseau n’était même pas connecté à Internet et avait accès pour environ 10 000 employés [1].
Considérations éthiques
L’utilisation de l’IA dans le secteur de la sécurité apporte à la fois des avantages et des considérations éthiques. Bien que l’IA puisse contribuer à une collecte de renseignements plus efficace et précise, elle soulève également des questions sur la vie privée, la transparence et le possible abus de données. Il est donc essentiel d’établir des règles strictes et des limitations pour garantir l’intégrité et la sécurité des informations [1].