Une IA qui s’améliore peut-elle vraiment concevoir ses successeurs ?

Pour comprendre l’auto-amélioration dite « récursive », distinguons trois tâches : modifier un modèle pour obtenir un meilleur résultat, choisir les expériences à mener ensuite, puis améliorer la procédure qui sert à choisir et à réaliser ces expériences. La troisième tâche change l’objet du progrès : le système ne travaille plus seulement sur ses performances, mais aussi sur sa manière de progresser. Le cadre proposé étend cette autonomie à l’acquisition d’expérience et à l’adaptation à l’environnement, jusqu’à cette « méta-amélioration ».^[1][2]

Une expérience avec le système A-Evolve-Training donne un exemple plus limité et concret. Sur quatre cycles, il a testé différentes techniques d’entraînement pour améliorer un modèle de langage de 30 milliards de paramètres, puis utilisé les résultats pour orienter les expériences suivantes. Le gain aux tests de référence est resté modeste. Cette boucle associe donc expérimentation et adaptation des choix, sans démontrer à elle seule une capacité à produire des générations de modèles toujours plus puissants.^[2]

Le premier contrôle à demander n’est donc pas seulement « le score monte-t-il ? », mais « que mesure cette hausse ? ». Un système peut mieux réussir une évaluation en exploitant ses faiblesses ou en ne retenant que les résultats favorables. Si cette hausse sert ensuite à sélectionner l’expérience suivante, la boucle risque de renforcer un raccourci plutôt qu’une capacité utile. La distinction rejoint celle qui sépare vérifier les calculs de l’IA et faire de la science : contrôler un résultat ne suffit pas, il faut encore établir ce qu’il permet de conclure.^[2]

Il faut ensuite regarder ce que la boucle laisse à l’extérieur. Choisir une technique d’entraînement ne fournit pas automatiquement les moyens de calcul nécessaires pour la tester, ni l’expertise humaine qui permet d’en évaluer l’intérêt. Une amélioration peut même perdre son utilité si produire et tester le modèle suivant exige davantage de ressources que les bénéfices obtenus. Pour juger une avancée, il faut donc examiner ensemble le gain, les moyens mobilisés et les décisions encore confiées aux humains, plutôt que le seul nombre de cycles automatisés.^[2]

Le titre du préprint, « The Last AI Built by Humans », évoque une frontière spectaculaire. Pourtant, une délégation progressive des tâches ne ferait pas nécessairement apparaître un dernier modèle humain clairement identifiable. La question utile reste plus précise : quelles décisions de recherche le système prend-il réellement, et peut-il améliorer la façon dont il les prend ? Le préprint, révisé le 22 septembre et encore non évalué par les pairs lors de sa couverture du 30 octobre, propose une manière de poser cette question. Ses éléments empiriques restent préliminaires.^[1][2]