Automatisation de la R&D en IA :
Perspectives économiques, seuils critiques et leviers pour la France

L’automatisation de la R&D en IA est un programme de recherche dont l’objectif est de concevoir des systèmes d’IA capables de réaliser en autonomie complète l’ensemble des tâches actuellement dévolues aux chercheurs et ingénieurs, c’est-à-dire de la conception même de systèmes d’IA. Dans l’hypothèse d’une automatisation totale, chaque génération de systèmes concevrait intégralement la génération suivante. Une telle boucle de rétroaction impliquerait une accélération substantielle du rythme de développement de systèmes plus performants, généraux et agentiques.

Ce programme est un objectif activement poursuivi par les entreprises qui conçoivent les IA de frontière. Mi-2026, les systèmes d’IA de frontière participent déjà à la conception des générations suivantes de systèmes plus avancés, ce qui produit une accélération mesurable du progrès des capacités des systèmes d’IA.

Une automatisation totale de la R&D est susceptible de produire une accélération majeure des capacités des systèmes d’IA. Il n’est pas possible d’anticiper correctement l’évolution des capacités futures à partir d’une simple extrapolation du rythme historique. Les capacités des systèmes d’IA les plus performants sont déjà suffisamment avancées pour présenter des menaces sur certains pans de la sécurité nationale (cybersécurité notamment). Ne pas considérer l’automatisation de la R&D reviendrait à sous-estimer très largement les horizons temporels à partir desquels des seuils critiques de capacités seront franchis.

L’automatisation de la R&D en IA va accélérer l’évolution des capacités des systèmes d’IA, avec pour conséquence la conception de systèmes plus agentiques, c’est-à-dire en capacité de poursuivre des objectifs complexes dans un environnement variable, sans supervision humaine et d’atteindre des niveaux de performance supérieurs aux experts dans l’ensemble des domaines cognitifs. Pourtant, si l’agentivité est une propriété recherchée parce qu’elle permet de réduire la supervision humaine, elle est également à l’origine d’un ensemble de risques amenés à se renforcer à mesure que des systèmes plus agentiques sont déployés.

Dans ce rapport, un système doté d’une agentivité suffisamment élevée pour être capable de performances supérieures aux experts dans tous les domaines cognitifs est nommé “AGI au seuil critique”, ou AGI-SC. Des modélisations fondées sur la théorie économique de la croissance sont utilisées pour anticiper les effets d’une automatisation de la R&D en IA sur l’accélération des capacités et le franchissement de ce seuil. L’analyse de trois de ces modélisations (GATE, AI Futures, Software Intelligence Explosion) indique que sans actions limitantes, la moitié des trajectoires simulées par ces trois modélisations franchissent le seuil critique (AGI-SC) avant fin 2034 et environ un quart avant 2030.

Il n’existe à l’heure actuelle aucun mécanisme de gouvernance permettant de faire face à des transformations technologiques d’ampleur dans un temps aussi restreint, rendant incertaine l’adaptation des institutions et des sociétés.

L’automatisation de la R&D est déjà en cours, avec une forte opacité et une absence de supervision

L’absence de transparence des entreprises à la frontière sur l’état actuel de l’automatisation de la R&D en IA place la France et l’Europe dans une situation d’asymétrie d’information, limitant leur capacité à anticiper et à prévenir les atteintes à la sécurité nationale et internationale.

Les entreprises procèdent activement à de la rétention d’informations concernant les capacités de leurs systèmes d’IA en R&D. En l’absence d’accès direct à ces données, on peut s’attendre à ce que les modélisations sous-estiment la quantité de trajectoires rapides (AGI-SC franchi avant 2030), qui constituent déjà un quart de toutes les simulations.

La France ne dispose d’aucun accès aux informations relatives au développement des IA de frontière et à leurs capacités dans des domaines susceptibles de porter atteinte à sa sécurité nationale. Ce déficit d’information serait inconcevable au regard des standards en vigueur dans d’autres industries à risque comme l’aviation, le médical ou le nucléaire civil. Des exigences de transparence constituent donc un prérequis pour que la France puisse appréhender au mieux les conséquences imputables au développement de ces systèmes en dehors de son territoire national.

Par ailleurs, les modélisations dans lesquelles la puissance de calcul est plafonnée (pour l’entraînement des modèles et la R&D en IA) éloignent la date de franchissement du seuil critique (AGI-SC). Plus cette limitation intervient tôt, plus ses chances de succès sont élevées. À l’heure actuelle, 86% de la puissance de calcul mondiale est possédée par les États-Unis, contre moins d’1% pour la France, impliquant qu’actionner ce levier nécessite prioritairement des mesures coordonnées pour peser en dehors du territoire national.