Anthropic IA : l’appel à freiner la course mondiale à l’IA
Anthropic, l’un des laboratoires d’intelligence artificielle les plus influents au monde, vient de lancer un signal fort. Le créateur des modèles Claude a publié, via son centre de réflexion l’Anthropic Institute, un appel inédit à coordonner une pause mondiale dans le développement de l’IA de pointe. Une proposition audacieuse. Une proposition qui bouscule les règles du jeu technologique. Dans un secteur dominé par la logique de la performance à tout prix, cette prise de position tranche radicalement avec les pratiques habituelles des géants de la tech.
Une proposition qui va à contre-courant
La course à l’IA bat son plein, OpenAI, Google, DeepSeek et Anthropic investissent des milliards pour devancer leurs rivaux. Chaque mois apporte son lot de nouveaux modèles, de nouvelles capacités, de nouvelles promesses. Dans ce contexte de frénésie technologique, Anthropic prend le risque de freiner. L’entreprise plaide pour la création d’un mécanisme de coordination mondial permettant de ralentir, voire de suspendre temporairement, le développement des systèmes les plus avancés. L’objectif est clair : laisser le temps aux sociétés humaines de s’adapter. Permettre à la recherche sur l’alignement de suivre le rythme effréné du progrès technologique.
Jack Clark, cofondateur d’Anthropic avec Dario et Daniela Amodei, a résumé la situation d’une formule saisissante lors d’une interview sur la BBC. Il a comparé le secteur de l’IA à une voiture dotée d’une pédale d’accélérateur mais sans pédale de frein. L’image est parlante. Elle dit tout sur l’urgence ressentie par les dirigeants d’Anthropic face à la trajectoire actuelle du secteur.
Le spectre de la “perte de contrôle”
Ce qui inquiète le plus Anthropic face à l’IA, c’est le risque d’auto-amélioration récursive. Ce terme désigne le moment où des systèmes d’IA seront capables d’entraîner leurs propres successeurs, avec un rôle humain de plus en plus réduit. Anthropic a partagé des données internes illustrant ce scénario. Rien ne garantit que ce basculement soit imminent. Mais l’entreprise estime que si les tendances actuelles se poursuivent, ce scénario deviendra « plausible ». Ce mot suffit à justifier l’alerte.
L’entreprise y voit deux visages opposés. D’un côté, un bond prodigieux pour la médecine, la technologie et l’économie mondiale. De l’autre, un risque réel de perte de contrôle. Un risque que les humains ne pourront plus corriger une fois qu’il se sera matérialisé. C’est précisément ce point de non-retour qu’Anthropic veut éviter à tout prix.
La nécessité d’une coordination mondiale
Anthropic ne demande pas un arrêt unilatéral. Ce serait contre-productif. L’entreprise le sait. Une pause isolée profiterait immédiatement aux concurrents, notamment chinois. C’est pourquoi elle appelle à un système de coordination concertée. Un mécanisme dans lequel tous les acteurs majeurs — entreprises et gouvernements — s’engageraient collectivement.
Pour illustrer la faisabilité d’un tel accord, Anthropic cite le précédent du traité sur les forces nucléaires à portée intermédiaire. Ce traité a mis des décennies à s’établir. Le temps presse davantage pour l’IA. Les modèles d’intelligence artificielle sont bien plus faciles à dissimuler que des silos de missiles. L’analogie est frappante. Elle souligne à quel point les outils de vérification et de contrôle devront être innovants et adaptés à cette nouvelle réalité.
La question de la IA régulation gouvernement est au cœur de ce débat. Le Canada, notamment, s’est déjà engagé dans cette voie. Le ministre canadien de l’IA Evan Solomon a rencontré officiellement les dirigeants d’Anthropic pour discuter du modèle Mythos, le plus avancé de la gamme, dont la diffusion reste aujourd’hui restreinte pour des raisons de cybersécurité. Cette rencontre historique à Ottawa illustre concrètement la dynamique que souhaite généraliser Anthropic : un dialogue structuré entre l’industrie et les États, pour bâtir ensemble des cadres légaux adaptés aux enjeux réels.
Mythos : l’IA trop puissante pour être publiée
Depuis deux mois, Anthropic restreint la diffusion de Mythos, son modèle phare. L’entreprise travaille à l’établissement de correctifs de cybersécurité avant toute mise à disposition publique. Cette décision en dit long sur la philosophie d’Anthropic. Là où d’autres acteurs du secteur publient à tout va, au risque de laisser des failles exploitables, Anthropic choisit la prudence. L’entreprise a annoncé la sortie prochaine de modèles aux performances comparables. Des systèmes équivalents sont également attendus chez ses concurrents dans les semaines à venir.
Cette retenue contraste fortement avec la frénésie financière qui entoure le secteur. SpaceX, via son laboratoire xAI, prépare une introduction en Bourse qui pourrait devenir la plus grande de l’histoire. Anthropic elle-même, dont la valorisation a quasi triplé en trois mois, a posé début juin les premiers jalons d’une entrée en Bourse. L’argent afflue. La pression sur les équipes pour publier toujours plus vite est immense. Résister à cette pression demande du courage institutionnel.
Une entreprise sous le feu des critiques
Anthropic ne fait pas l’unanimité. Loin de là. L’entreprise fondée par des dissidents d’OpenAI s’est construite sur une image de laboratoire éthique, mettant la sécurité au centre de ses priorités. Mais cette posture lui vaut des critiques virulentes. Des responsables de la Maison Blanche l’accusent d’exagérer les risques. Certains acteurs de l’industrie parlent ouvertement de “marketing de la peur”. Une stratégie commerciale habile, selon eux, davantage destinée à renforcer la réputation d’Anthropic qu’à protéger l’humanité.
Ces critiques ne sont pas sans fondement. Il est vrai qu’Anthropic bénéficie d’une image premium grâce à son positionnement sécuritaire. Il est vrai aussi que ses alertes sur les risques font partie de son identité de marque. Mais cela ne suffit pas à invalider les avertissements. L’existence réelle de Mythos, les vulnérabilités qu’il a identifiées, les réunions d’urgence qu’il a provoquées dans les banques centrales et les ministères : tout cela est factuel. Le débat sur les motivations ne doit pas éclipser la réalité des enjeux.
L’heure des choix
Anthropic a raison sur un point essentiel. Les décisions prises aujourd’hui dans les laboratoires de San Francisco, Pékin ou Londres auront des conséquences pour des décennies. Attendre que les problèmes surgissent avant de réagir, c’est prendre un risque colossal. La pause concertée qu’Anthropic appelle de ses vœux n’est pas une capitulation face au progrès. C’est une demande de lucidité collective. Une invitation à construire les garde-fous avant que le besoin ne s’en fasse sentir de façon douloureuse. Le monde de l’IA a besoin d’une pédale de frein. Anthropic vient d’en dessiner les premiers contours.