Points clés à retenir :
L'appel d'Anthropic en faveur d'une pause mondiale coordonnée du développement de l'IA de pointe a relancé le débat sur la capacité de l'industrie à s'autoréguler avant que les machines n'apprennent à s'améliorer sans supervision humaine.
Anthropic a averti que les systèmes d'IA pourraient atteindre « l'auto-amélioration récursive » — la capacité de réécrire leur propre code sans intervention humaine — d'ici deux ans, proposant une pause coordonnée à l'échelle mondiale pour ralentir le développement des modèles de pointe.
« Nous pensons qu'il serait bon pour le monde d'avoir la possibilité de ralentir ou de suspendre temporairement le développement de l'IA de pointe afin de permettre aux structures sociétales et à la recherche sur l'alignement de suivre le rythme des avancées technologiques », ont écrit Marina Favaro, responsable de la recherche interne chez Anthropic, et Jack Clark, responsable des politiques, dans un billet de blog jeudi.
L'entreprise, valorisée à environ 965 milliards de dollars après un tour de financement de série H de 65 milliards de dollars le mois dernier, a publié des données internes montrant une accélération rapide de la vitesse à laquelle ses modèles les plus avancés accomplissent des tâches logicielles de manière autonome. Clark a déclaré que certains systèmes pourraient atteindre une auto-amélioration récursive d'ici deux ans, bien que l'entreprise ait reconnu que le phénomène reste théorique et n'a jamais été démontré en production.
Cette proposition intervient alors qu'Anthropic et OpenAI se précipitent vers des introductions en Bourse — Anthropic a déposé confidentiellement ses documents d'introduction en Bourse auprès de la Securities and Exchange Commission cette semaine — et que les deux entreprises se disputent la domination d'un marché qui devrait atteindre 1 000 milliards de dollars de dépenses d'infrastructure IA au cours des cinq prochaines années. Un ralentissement, s'il était imposé, remodelerait le paysage concurrentiel et pourrait potentiellement retarder des milliards de revenus projetés.
La faisabilité d'une pause mondiale
Imposer un arrêt mondial du développement de l'IA se heurterait à des obstacles quasi insurmontables, selon les analystes. Rob Enderle du Enderle Group a qualifié une pause mondiale de « pratiquement impossible » car les enjeux économiques et de sécurité nationale sont trop élevés pour qu'une grande puissance ralentisse volontairement. Contrairement aux armes nucléaires, où l'imagerie satellite pouvait vérifier la construction de silos de missiles, les sessions d'entraînement de l'IA peuvent être dissimulées à l'intérieur de centres de données privés avec des ressources informatiques décentralisées bien plus difficiles à surveiller.
« Le suivi des ressources informatiques décentralisées, des centres de données privés et de la recherche algorithmique à l'échelle mondiale est bien plus difficile que la surveillance de quelque chose de physique, comme les installations nucléaires », a déclaré Enderle.
Anthropic a reconnu le défi de la vérification, comparant l'effort aux traités de contrôle des armements de l'ère de la guerre froide, mais a noté que masquer les sessions d'entraînement de l'IA est considérablement plus facile que de dissimuler des infrastructures de missiles. L'entreprise a déclaré que sa division de recherche Anthropic Institute collaborerait avec les décideurs politiques et les chercheurs pour explorer des mécanismes de vérification, sans toutefois fournir de calendrier ni de cadre concret.
Les critiques remettent en question les motivations d'Anthropic
La proposition a suscité un vif scepticisme de la part d'acteurs du secteur qui affirment qu'Anthropic utilise un discours sécuritaire pour renforcer sa position concurrentielle. Le capital-risqueur David Sacks, conseiller informel du président Donald Trump, avait auparavant accusé l'entreprise de mener un « programme de capture réglementaire » qui interdirait les modèles open source peu coûteux afin de stimuler la demande pour ses algorithmes propriétaires.
Sam Altman, directeur général d'OpenAI, a formulé des accusations similaires, qualifiant les avertissements d'Anthropic de « marketing fondé sur la peur ». Dans une déclaration le mois dernier, il a déclaré : « C'est clairement un marketing incroyable que de dire : "Nous avons construit une bombe, nous allons la laisser tomber sur votre tête. Nous vous vendrons un abri anti-bombes pour 100 millions de dollars." »
OpenAI a publié son propre rapport mercredi affirmant que « les gouvernements démocratiques — et non les entreprises privées agissant seules — doivent en fin de compte déterminer les règles, les garanties et les mécanismes de responsabilité » pour le développement de l'IA, une position qui rejette implicitement la proposition de pause menée par l'industrie d'Anthropic.
Holger Mueller de Constellation Research a déclaré être encouragé de voir Anthropic poser des questions éthiques, mais s'est interrogé sur la volonté de l'entreprise de « figer le statu quo pour rattraper son retard, ou simplement conserver son avance ». Il a noté qu'un gel aiderait Anthropic à maintenir sa position dans les systèmes d'IA interentreprises et potentiellement à accroître sa part de marché.
Ethan Mollick, professeur à la Wharton School de l'Université de Pennsylvanie, a publié sur X que le billet de blog contenait « un peu d'introspection, un peu de marketing, et beaucoup de convictions très sincères sur ce qu'Anthropic pense être probable dans un avenir proche de l'IA. »
Implications pour les investisseurs
Pour les investisseurs, ce débat introduit une incertitude réglementaire dans un secteur où les plus grands acteurs — Anthropic, OpenAI, Google, Microsoft et Meta — dépensent collectivement plus de 200 milliards de dollars par an en infrastructures IA. Si une pause coordonnée gagne du terrain, elle pourrait ralentir les attentes de croissance des revenus de Nvidia, dont les revenus des centres de données de 47,5 milliards de dollars au dernier trimestre sont directement liés à la demande d'entraînement des modèles d'IA. Si la proposition est rejetée, elle pourrait lever un frein à court terme mais intensifier l'examen des pratiques de sécurité.
Anthropic n'a pas encore de ticker public, mais son dépôt confidentiel d'introduction en Bourse signifie que les investisseurs des marchés publics auront bientôt un intérêt direct dans la résolution de ce débat. Le tour de financement de 65 milliards de dollars de l'entreprise, mené par des investisseurs dont Spark Capital et Menlo Ventures, l'a valorisée à environ 40 fois le chiffre d'affaires annualisé — un multiple qui suppose une croissance rapide continue sans interruption réglementaire.
Cet article est fourni à titre informatif uniquement et ne constitue pas un conseil en investissement.
