Anthropic bloque les usages malveillants de son IA

Anthropic vient de publier un nouveau rapport sur les usages détournés de ses modèles. L’entreprise américaine, connue pour ses assistants Claude, y détaille plusieurs tentatives d’utilisation malveillante. Parmi elles, des recherches liées à la fabrication d’armes biologiques. D’autres visaient des cyberattaques. Ce document est le troisième du genre depuis mars 2025. Il confirme une tendance de fond : les IA les plus avancées attirent aussi des acteurs mal intentionnés.

Un rapport qui alerte sur les risques biologiques

Le cas le plus frappant concerne le virus chikungunya. Des acteurs non identifiés ont tenté d’utiliser Claude pour une recherche de gain de fonction. Ce terme désigne une manipulation génétique qui modifie un organisme afin de lui donner une propriété nouvelle. Dans ce cas précis, l’objectif était clair. Rendre le virus progressivement plus virulent. Anthropic affirme avoir détecté et bloqué cette demande avant qu’elle n’aboutisse. L’entreprise reconnaît toutefois l’ambiguïté de ce type de recherche. Elle pourrait, dit-elle, servir à développer de meilleurs vaccins. Mais elle pourrait tout aussi bien rendre un agent pathogène plus dangereux.

Ce constat pousse Anthropic à durcir ses mesures de sécurité. Les anciens modèles de l’entreprise n’étaient pas jugés suffisamment puissants pour représenter un risque sérieux. Leurs garde-fous étaient donc plus légers. La situation change avec les modèles récents. Anthropic explique avoir renforcé les protections sur ses systèmes les plus avancés. C’est notamment le cas de Claude Fable 5, présenté comme doté de garanties plus strictes contre les requêtes biologiques à double usage.

Une entreprise qui documente ses propres limites

Ce qui distingue ce rapport, c’est la transparence assumée par Anthropic. L’entreprise ne prétend pas avoir tout résolu. Elle admet ne pas pouvoir garantir l’innocuité totale de ses modèles les plus puissants. Ces systèmes sont capables d’assister des tâches de recherche scientifique complexes. Cette capacité est une force. Elle est aussi une source d’inquiétude légitime. Pour approfondir le sujet de l’Anthropic IA, ce dossier complet revient sur la position singulière de l’entreprise dans le débat sur la régulation mondiale de l’intelligence artificielle, un enjeu qui dépasse largement la seule question des armes biologiques.

Entre décembre 2025 et août 2026, Anthropic a observé une diversité d’acteurs malveillants. Des vendeurs de logiciels espions ont tenté d’exploiter ses outils. Des individus décrits comme « politiquement motivés » ont fait de même. L’entreprise a aussi identifié des groupes soutenus par des États. Ces derniers diffusaient de la propagande à grande échelle. Neuf cas de ce type ont été recensés. Ils provenaient de Russie, d’Iran, de Turquie, ainsi que du golfe Persique, d’Asie du Sud, d’Afrique et d’Europe.

Des opérations d’influence difficiles à détecter

Le rapport souligne une difficulté particulière. Les réseaux sociaux repèrent souvent les campagnes de désinformation une fois qu’elles sont déjà publiées. Anthropic, elle, peut potentiellement les détecter plus tôt. L’entreprise explique que ces opérations peuvent apparaître dans les conversations avec Claude. Cela se produit pendant que la manœuvre est encore en cours. C’est un avantage informationnel réel. Il permet une intervention plus rapide. Mais il pose aussi la question du rôle que doivent jouer les créateurs d’IA face à ces menaces émergentes.

La démission d’un chercheur relance le débat

Ce rapport a été publié seulement deux jours après un événement marquant. Un chercheur en intelligence artificielle, Jacob Coxon, a quitté Anthropic. Ce Britannique de 27 ans avait auparavant travaillé chez OpenAI. Sa décision n’est pas passée inaperçue. Il accuse les deux entreprises de « jouer avec nos vies ». Selon lui, les équipes qui construisent l’IA croient sincèrement qu’elle pourrait représenter une menace existentielle. Il évoque une échéance vertigineuse. La fin de la décennie.

Cette affirmation a trouvé un écho inattendu. Evan Hubinger, responsable de la sûreté chez Anthropic, l’a en partie confirmée sur les réseaux sociaux. Il reconnaît que l’entreprise fait « de son mieux ». Mais il admet aussi l’absence d’un plan garantissant qu’une IA plus performante que l’humain continuerait à obéir à ses concepteurs. Il tempère néanmoins ce constat. Le risque posé par les modèles actuels reste, selon lui, « faible ».

Vers une régulation encore attendue

Ce rapport intervient dans un contexte réglementaire flou. Aucune loi fédérale n’encadre aujourd’hui les modèles d’IA aux États-Unis. L’administration en place a privilégié une approche légère jusqu’à présent. L’objectif affiché est de préserver la compétitivité face à la Chine. Cette stratégie a aussi conduit à neutraliser certaines lois adoptées au niveau des États américains.

Le paysage pourrait toutefois évoluer. OpenAI s’est jointe récemment à Anthropic pour appeler le Congrès à agir. Les deux entreprises réclament des règles de sécurité obligatoires pour les créateurs d’IA les plus puissantes. Elles proposent notamment des tests systématiques. Elles demandent aussi des évaluations menées par des organismes indépendants. Un troisième point concerne la transparence. Les incidents de sécurité devraient être signalés de façon claire et rapide.

Une transparence qui sert aussi une stratégie d’image

Anthropic affirme avoir partagé ses découvertes avec les autorités gouvernementales. L’entreprise dit aussi avoir informé ses partenaires industriels. Elle espère que ce rapport aidera d’autres développeurs à reconnaître des schémas similaires sur leurs propres plateformes. Selon elle, cela donnerait aux gouvernements et à la société civile une vision plus claire des menaces émergentes.

Cette communication intervient à un moment stratégique pour l’entreprise. Anthropic prépare une introduction en Bourse massive prévue à l’automne. Publier un rapport détaillé sur la sécurité renforce son image de laboratoire responsable. Cela ne retire rien à la réalité des faits rapportés. Les tentatives de recherche biologique dangereuse ont bien été bloquées. Les cyberattaques ont bien été neutralisées. Reste à savoir si cette vigilance suffira face à des modèles toujours plus puissants et des acteurs toujours plus déterminés.