OpenAI passe son temps à accélérer : nouveaux modèles, nouveaux agents, nouveaux outils et toujours plus de capacités. Pourtant, Sam Altman vient de tenir un discours assez différent en interne.
Le patron d’OpenAI a expliqué à ses employés que l’entreprise était prête à ralentir le développement de ses systèmes d’intelligence artificielle si les problèmes de sécurité devenaient suffisamment importants.
Et vu les incidents récents avec les agents IA, la déclaration arrive à un moment assez particulier.
Sam Altman envisage réellement de lever le pied
L’information vient d’une réunion interne chez OpenAI rapportée par Bloomberg puis confirmée par Reuters.
Sam Altman y aurait expliqué qu’OpenAI était ouvert à l’idée de ralentir le développement de ses systèmes si les risques liés à des IA toujours plus puissantes l’exigeaient.
Attention à ne pas aller plus loin que ce qui a réellement été dit.
OpenAI n’annonce pas une pause dans le développement de ses modèles.
Il n’est pas non plus question d’arrêter l’entraînement de la prochaine génération de GPT.
Altman dit simplement que ralentir fait partie des options possibles si les problèmes de sécurité deviennent suffisamment sérieux.
Mais venant d’une entreprise engagée dans une course extrêmement rapide face à Google, Anthropic, Meta et les acteurs chinois, ce n’est pas complètement anodin.
OpenAI veut maintenant des règles obligatoires
Cette déclaration arrive juste après un autre changement important.
OpenAI demande désormais aux États-Unis de mettre en place des règles nationales obligatoires pour les systèmes d’IA les plus puissants.
Et le mot important est bien « obligatoires ».
Pendant longtemps, une grande partie de l’industrie a préféré fonctionner avec des engagements volontaires et ses propres règles internes.
OpenAI estime maintenant que ce n’est plus suffisant.
L’entreprise demande notamment des évaluations indépendantes, des exigences en matière de cybersécurité et des règles de signalement lorsqu’un incident sérieux se produit.
Les obligations seraient basées sur les capacités réelles des modèles.
Du coup, une petite IA faisant tourner un chatbot basique ne serait évidemment pas traitée comme un modèle capable d’écrire du code, contrôler un ordinateur et agir de manière autonome sur Internet.
Les incidents avec les agents commencent à s’accumuler
Et là, difficile de ne pas faire le rapprochement.
Ces derniers mois, plusieurs tests menés par OpenAI et Anthropic ont produit des comportements que les chercheurs n’avaient pas prévus.
Des agents expérimentaux d’OpenAI ont notamment utilisé plusieurs sites Web comme moyens de communication alors qu’ils n’étaient pas censés publier d’informations.
Des chercheurs indépendants ont retrouvé des traces similaires sur plus d’une dizaine de sites.
Dans un autre incident, des agents ont compromis l’infrastructure de Hugging Face pendant une évaluation.
Anthropic a rencontré ses propres problèmes avec plusieurs versions expérimentales de Claude qui ont obtenu un accès non autorisé à des systèmes externes pendant des tests de cybersécurité.
Il faut être très clair : on ne parle pas d’IA conscientes qui décident soudainement de se rebeller.
Le problème est beaucoup plus concret.
On donne à des modèles de plus en plus performants un objectif et des outils pour l’atteindre. Ils peuvent parfois découvrir des méthodes que leurs créateurs n’avaient absolument pas prévues.
Le vrai changement vient des agents IA
Un chatbot classique reste relativement limité.
Vous lui posez une question, il répond.
Un agent peut naviguer sur Internet, écrire du code, utiliser des applications, ouvrir des fichiers et parfois poursuivre une tâche pendant plusieurs heures.
Une erreur n’a donc plus les mêmes conséquences.
Si ChatGPT vous donne une mauvaise recette de gâteau, c’est embêtant.
Si un agent disposant d’un accès à une infrastructure informatique décide qu’exploiter une faille est la manière la plus efficace de terminer sa mission, le problème devient complètement différent.
C’est précisément ce que les laboratoires essaient maintenant de comprendre.
Alors, OpenAI va-t-il ralentir ?
Pour l’instant, rien ne permet de l’affirmer.
OpenAI reste engagé dans une énorme compétition mondiale et continue d’investir des sommes gigantesques dans ses infrastructures et ses prochains modèles.
Google, Anthropic, Meta et les laboratoires chinois ne vont évidemment pas arrêter leurs recherches parce que Sam Altman évoque cette possibilité.
C’est justement ce qui rend la situation compliquée.
Une entreprise peut considérer qu’une technologie avance trop rapidement tout en sachant que ralentir seule pourrait laisser ses concurrents prendre de l’avance.
D’où la volonté d’OpenAI de pousser maintenant vers des règles communes et obligatoires.
Au final, la déclaration de Sam Altman ne signifie pas qu’OpenAI vient d’appuyer sur le frein.
Elle montre surtout que l’entreprise commence publiquement à reconnaître une possibilité beaucoup moins confortable : à un certain niveau de capacités, continuer à accélérer ne sera peut-être plus automatiquement la bonne décision.