Anthropic ontwikkelt spionnen-AI voor Amerikaanse overheid
amsterdam, zondag, 8 juni 2025.
Anthropic heeft een AI-chatbot genaamd Claude Gov ontwikkeld die speciaal is ontworpen om geheime informatie voor de Amerikaanse overheid te verwerken. Deze chatbot helpt bij strategische planning, inlichtingenanalyse en operationele ondersteuning, met toegang beperkt tot overheidsmedewerkers. Een interessant aspect is dat Claude Gov beter is in het herkennen en vertalen van talen en dialecten, wat cruciaal is voor inlichtingenwerk. Echter, het is essentieel dat de AI geen hallucinaties produceert, want onjuiste informatie kan ernstige gevolgen hebben voor nationale veiligheid.
Claude Gov: Een Spionnen-AI voor de Amerikaanse Overheid
Anthropic heeft een AI-chatbot genaamd Claude Gov ontwikkeld die speciaal is ontworpen om geheime informatie voor de Amerikaanse overheid te verwerken. Deze chatbot helpt bij strategische planning, inlichtingenanalyse en operationele ondersteuning, met toegang beperkt tot overheidsmedewerkers. Een interessant aspect is dat Claude Gov beter is in het herkennen en vertalen van talen en dialecten, wat cruciaal is voor inlichtingenwerk [1].
Verschillen met de Consumentenversie
Claude Gov verschilt aanzienlijk van de consumentenversie van Claude. Terwijl de gewone Claude snel een muur optrekt wanneer er vertrouwelijke informatie aan bod komt, is Claude Gov juist gebrand op vertrouwelijke informatie. Hij kan bijvoorbeeld documenten van defensie verwerken en is beter in het herkennen en vertalen van talen en dialecten. Desalniettemin krijgt hij dezelfde veiligheidstests als andere Claude-modellen [1].
Veiligheidsmaatregelen en Risico’s
Bij het gebruik van AI in de veiligheidssector is het van cruciaal belang dat er geen hallucinaties plaatsvinden. AI-neurale netwerken werken op basis van statistische waarschijnlijkheden en kunnen dus inlichtingendiensten mogelijk verkeerd informeren als ze niet correct worden gebruikt. Het risico op het voortbrengen van onjuiste informatie is daardoor aanzienlijk, vooral in een context waarin de stakes hoog zijn. Daarom is een menselijke controle nodig om fouten te voorkomen en de integriteit van de informatie te garanderen [1].
Andere Spionnen-AI’s
Claude Gov is niet de enige AI die wordt gebruikt in de inlichtingendiensten en defensie. Microsoft lanceerde in 2024 een ‘spionnen’-versie van OpenAI’s GPT-4, die op een separaat netwerk draaide dat alleen voor de overheid toegankelijk was. Dit netwerk was zelfs niet verbonden met internet en had toegang voor ongeveer 10.000 medewerkers [1].
Ethische Overwegingen
Het gebruik van AI in de veiligheidssector brengt zowel voordelen als ethische overwegingen met zich mee. Hoewel AI kan bijdragen aan efficiëntere en nauwkeurigere inlichtingenverzameling, roept het ook vragen op over privacy, transparantie en de mogelijke misbruik van gegevens. Het is daarom essentieel dat er strikte regels en beperkingen worden opgesteld om de integriteit en veiligheid van de informatie te waarborgen [1].