Anthropic contraint de désactiver ses modèles d’IA : Washington invoque la sécurité nationale

Anthropic fait face à une nouvelle crise autour de ses modèles d’intelligence artificielle les plus puissants. Le gouvernement fédéral américain aurait demandé à la start-up californienne de suspendre l’accès à Claude Fable 5 et Mythos 5 pour les ressortissants étrangers, invoquant des préoccupations liées à la sécurité nationale.

L’annonce intervient seulement quelques jours après le lancement de ces nouveaux modèles d’IA. Présentés comme particulièrement performants dans plusieurs domaines, notamment l’analyse technique et la cybersécurité, ils auraient rapidement attiré l’attention des autorités américaines.

Selon les informations rapportées dans le texte d’origine, une faille permettant de contourner certains garde-fous de sécurité aurait notamment été identifiée. Face à cette situation, Anthropic aurait choisi de désactiver temporairement les deux modèles afin d’éviter tout risque de non-conformité avec les directives américaines.

Claude Fable 5 et Mythos 5 à peine lancés avant leur suspension

Le calendrier est particulièrement surprenant.

Claude Fable 5 et Mythos 5 auraient été lancés le mardi 9 juin, avant de faire l’objet d’une suspension seulement trois jours plus tard.

Ces deux modèles étaient présentés comme faisant partie des systèmes d’intelligence artificielle les plus avancés développés par Anthropic. Leur lancement avait donc suscité l’attention du secteur technologique, notamment auprès des entreprises intéressées par les nouvelles applications de l’IA générative.

Mais leur disponibilité aura finalement été extrêmement courte.

Le gouvernement fédéral américain aurait demandé à Anthropic de couper l’accès aux deux modèles pour les ressortissants étrangers, y compris lorsque ceux-ci se trouvent physiquement sur le territoire américain.

Face à cette directive, l’entreprise aurait préféré procéder à une désactivation immédiate et généralisée plutôt que de risquer de se retrouver en situation de non-conformité.

Cette décision touche donc directement les utilisateurs de Claude qui avaient commencé à exploiter ces nouveaux modèles pour leurs activités professionnelles, leurs recherches ou leurs projets technologiques.

Une faille de sécurité au cœur des inquiétudes

La principale justification avancée par les autorités américaines concerne une faille de sécurité qui aurait permis de contourner certaines protections intégrées aux modèles.

Dans le secteur de l’intelligence artificielle, les garde-fous jouent un rôle essentiel. Ils sont notamment conçus pour limiter certaines utilisations dangereuses d’un modèle et empêcher qu’il fournisse des informations susceptibles d’être utilisées à mauvais escient.

Or, selon les informations rapportées, une entreprise aurait réussi à contourner certaines de ces protections.

Le problème prend une dimension particulière lorsque l’on considère les capacités attribuées à ces modèles en matière de cybersécurité et d’analyse de vulnérabilités informatiques.

Les systèmes d’IA modernes peuvent en effet être utilisés pour analyser du code, détecter certaines failles, automatiser des tâches techniques et accélérer considérablement le travail des développeurs et des spécialistes de la sécurité informatique.

Ces capacités peuvent être bénéfiques pour les entreprises et les chercheurs, mais elles peuvent également soulever des questions importantes lorsque des garde-fous peuvent être contournés.