Pendant trois ans, toute l’industrie de l’intelligence artificielle nous a expliqué qu’il fallait aller plus vite. Plus de GPU, des modèles plus gros, des agents plus autonomes et des milliards investis dans des datacenters.
Et maintenant, une partie de ceux qui mènent cette course commence à dire qu’il faudrait peut-être ralentir.
Dario Amodei, le patron d’Anthropic, vient de proposer un plan pour réduire le rythme de progression des IA les plus puissantes. Sam Altman et Elon Musk ont publiquement soutenu l’idée.
Forcément, quand les trois patrons derrière Claude, ChatGPT et Grok commencent à tenir ce discours en même temps, ça mérite qu’on s’y intéresse.
Dario Amodei veut « ralentir la frontière »
Tout part d’un long texte publié par Dario Amodei.
Le patron d’Anthropic ne demande pas d’arrêter complètement la recherche sur l’intelligence artificielle.
Son idée est plutôt de ralentir la progression des capacités des modèles les plus avancés afin de laisser davantage de temps aux chercheurs pour comprendre et contrôler les risques qui apparaissent.
Anthropic propose notamment un système d’évaluations indépendantes.
Des spécialistes extérieurs pourraient examiner les modèles les plus puissants avec un niveau d’accès suffisamment élevé pour détecter des comportements dangereux avant leur déploiement massif.
Amodei souhaite également davantage de coordination entre les grands laboratoires.
Et c’est probablement la partie la plus compliquée.
OpenAI et Elon Musk sont d’accord
Parce que personne ne veut ralentir tout seul.
Imaginez qu’Anthropic décide volontairement de retarder Claude pendant six mois pour effectuer davantage de tests.
Si OpenAI, Google ou xAI continuent pendant ce temps à avancer à pleine vitesse, Anthropic prend simplement six mois de retard.
C’est exactement le problème.
Pour qu’un ralentissement fonctionne réellement, les principaux laboratoires doivent accepter des règles comparables.
Et justement, Sam Altman a apporté son soutien à la proposition de Dario Amodei.
Elon Musk a lui aussi approuvé l’idée.
Cela ne signifie évidemment pas que ChatGPT, Claude et Grok vont arrêter de progresser demain matin.
Aucun accord formel n’a été annoncé.
Mais le changement de discours est assez impressionnant.
Pourquoi ont-ils soudainement peur ?
Le problème vient surtout des agents IA.
Un chatbot classique répond à une question.
Un agent peut recevoir un objectif puis utiliser différents outils pour essayer de l’atteindre : naviguer sur Internet, écrire du code, utiliser un terminal, ouvrir des fichiers ou communiquer avec différents services.
Et plus ces systèmes deviennent autonomes, plus les erreurs peuvent devenir sérieuses.
Anthropic a récemment publié plusieurs exemples montrant comment Claude avait été détourné par des acteurs malveillants pour développer des outils de phishing, des logiciels malveillants ou des systèmes de surveillance.
Des évaluations internes chez plusieurs laboratoires ont également montré des comportements inattendus lorsque les modèles disposent de suffisamment d’autonomie.
Attention toutefois à ne pas tomber dans le scénario Terminator.
Personne n’affirme qu’une IA consciente essaie actuellement de prendre le contrôle du monde.
Le problème est beaucoup plus simple : des systèmes très performants peuvent trouver des moyens inattendus d’atteindre l’objectif qu’on leur donne.
Même les marchés commencent à s’inquiéter
Les investisseurs n’ont pas particulièrement apprécié le message.
Les valeurs liées à l’intelligence artificielle et aux semi-conducteurs ont reculé lundi 14 septembre.
NVIDIA, TSMC, Samsung, ASML et plusieurs autres entreprises directement liées au boom de l’IA ont été touchées.
La logique est assez évidente.
Toute la croissance actuelle du secteur repose sur une hypothèse : les entreprises vont continuer à construire des modèles toujours plus gros nécessitant toujours plus de GPU et de datacenters.
Si le rythme ralentit, même légèrement, les gigantesques investissements prévus dans les infrastructures deviennent plus difficiles à justifier.
La Chine voit les choses complètement différemment
Et là, le débat devient également géopolitique.
Le Global Times, média soutenu par l’État chinois, a fortement critiqué la proposition de Dario Amodei.
Selon lui, les États-Unis pourraient utiliser la sécurité comme prétexte pour ralentir leurs concurrents chinois et conserver leur avance technologique.
Cette critique n’arrive pas de nulle part.
Amodei défend parallèlement des restrictions américaines fortes sur l’exportation des puces IA avancées vers la Chine.
Pour Pékin, demander simultanément un ralentissement mondial et empêcher la Chine d’accéder aux meilleurs GPU ressemble forcément à une stratégie permettant aux entreprises américaines de conserver leur avance.
OpenAI est prêt à ralentir le développement de ses IA si la sécurité l’exige
Peut-on vraiment ralentir l’IA ?
C’est toute la question.
Techniquement, oui.
Politiquement et économiquement, c’est beaucoup plus compliqué.
OpenAI ne veut pas se faire dépasser par Anthropic.
Anthropic ne veut pas se faire dépasser par Google.
Google ne veut pas se faire dépasser par xAI.
Et les États-Unis ne veulent surtout pas se faire dépasser par la Chine.
Tout le monde peut donc être d’accord sur le principe tout en continuant à accélérer dans la pratique.
C’est probablement le paradoxe le plus intéressant de cette nouvelle phase de la course à l’IA.
Pendant des années, la question était : jusqu’où peut-on aller ?
Maintenant, ceux qui construisent les modèles commencent eux-mêmes à poser une autre question : à quel moment faut-il arrêter d’accélérer ?