Anthropic déjà confronté à une controverse sur ses modèles
Cette nouvelle affaire n’est pas la première controverse concernant Anthropic et la gestion des capacités de ses systèmes d’intelligence artificielle.
Lors du lancement de ces technologies, la start-up avait déjà été accusée d’avoir procédé à des modifications de certaines capacités de ses modèles sans communication suffisamment claire auprès des utilisateurs.
L’expression « sabotage secret » aurait notamment été utilisée dans les critiques visant l’entreprise.
Face aux réactions de chercheurs et de développeurs, Anthropic aurait finalement décidé de revoir sa position.
La société se serait notamment engagée à mieux informer ses utilisateurs lorsque certaines performances ou fonctionnalités sont volontairement réduites pour des raisons liées à la sécurité nationale.
Cette controverse souligne une question devenue centrale dans l’industrie de l’IA : jusqu’où une entreprise peut-elle modifier les capacités d’un modèle sans affecter la confiance de ses clients ?
Une question de transparence pour les utilisateurs
La transparence constitue désormais un enjeu majeur pour les plateformes d’intelligence artificielle.
Les utilisateurs professionnels investissent du temps et de l’argent pour intégrer les modèles d’IA dans leurs systèmes. Ils peuvent notamment utiliser ces outils pour automatiser certaines tâches, générer du contenu, analyser des informations, programmer des applications ou améliorer leur productivité.
Lorsqu’une capacité disparaît soudainement, cela peut donc perturber une organisation entière.
La situation rencontrée par Anthropic montre pourquoi les entreprises doivent également prendre en compte la sécurité informatique, la conformité réglementaire et la gestion des risques lorsqu’elles adoptent des technologies d’intelligence artificielle.
Des tensions croissantes entre Washington et Anthropic
La suspension de Claude Fable 5 et Mythos 5 intervient dans un contexte de relations déjà tendues entre Anthropic et le gouvernement américain.
Selon le texte fourni, le Pentagone aurait interdit l’utilisation de Claude au sein de certaines administrations américaines après un désaccord concernant les conditions dans lesquelles les modèles de l’entreprise pouvaient être utilisés.
Anthropic aurait notamment refusé certaines utilisations liées aux systèmes d’armes autonomes et à la surveillance de masse.
Cette opposition aurait ensuite conduit la société à engager une action en justice contre le Département de la Défense.
Le dossier dépasse donc largement la simple question d’une nouvelle version de logiciel ou d’une mise à jour technique.
Il pose des questions beaucoup plus larges concernant l’intelligence artificielle, la sécurité nationale, la défense, la cybersécurité et les limites de l’utilisation des modèles avancés par les gouvernements.
Cliquer sur lire la suite