L’IA qui s’améliore elle-même, nouvel horizon controversé des grands laboratoires comme OpenAI et Anthropic

« Auto-amélioration récursive »… Cette expression obscure a fait son apparition ces dernières semaines dans les déclarations publiques des grands acteurs de l’intelligence artificielle (IA). Elle désigne le processus par lequel des IA deviendraient capables de s’améliorer elles-mêmes. Dario Amodei, le cofondateur d’Anthropic, l’a évoquée mi-septembre dans son appel à « ralentir » le rythme des recherches : « Ma première préoccupation est que, depuis cet été environ, l’IA avance beaucoup plus vite, principalement en raison de la capacité croissante de l’IA à construire la prochaine génération d’IA », a-t-il écrit. « Nous progressons nettement vers la création d’un chercheur en IA automatisé d’ici à mars 2028 », avait déjà affirmé début septembre son rival OpenAI dans un communiqué.

Après un été d’incidents de cybersécurité liés à des tests d’agents d’IA, cette perspective suscite aussi des inquiétudes : « Et si la recherche automatisée en IA déclenchait une explosion d’intelligence ? », ont mis en garde, le 28 septembre, une vingtaine de chercheurs, dont les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, ainsi que des dirigeants d’OpenAI, d’Anthropic, de Microsoft ou de Meta. Créer une « boucle d’auto-amélioration » pourrait « affaiblir la surveillance humaine des IA, renforcer les défis du secteur et accroître fortement le risque de perte de contrôle de ces systèmes », redoutent les auteurs, appelant à surveiller et encadrer cette tendance.

Il vous reste 81.43% de cet article à lire. La suite est réservée aux abonnés.