# Intelligence artificielle : le scientifique en chef d’OpenAI s’inquiète d’une progression « trop rapide » pour le mond

# Intelligence artificielle : le scientifique en chef d’OpenAI s’inquiète d’une progression « trop rapide » pour le monde

**Le scientifique en chef d’OpenAI, Jakub Pachocki, a publié dimanche 6 septembre une tribune alarmante sur le site de l’entreprise. Il y exprime sa crainte que la société ne soit pas prête à affronter les conséquences de l’accélération fulgurante de l’intelligence artificielle, appelant à une coordination internationale urgente.**

« C’est une période qui appelle à une extrême prudence. Je crains que personne ne soit préparé aux conséquences de la poursuite rapide de la progression de l’intelligence des machines », écrit Jakub Pachocki dans ce texte publié sur le site d’OpenAI. Une mise en garde qui intervient alors que les capacités des modèles d’IA progressent à un rythme que même leurs créateurs peinent à anticiper.

## Des systèmes aux capacités en pleine expansion

Pour étayer son inquiétude, le scientifique en chef revient sur l’évolution spectaculaire des modèles d’intelligence artificielle depuis 2023. Il décrit des systèmes désormais capables d’utiliser des ordinateurs et des interfaces graphiques, de collaborer avec des humains ou avec d’autres IA, et même de mener des projets de recherche de manière autonome. Une transformation radicale qui ne fait que commencer, selon lui.

Jakub Pachocki affirme en effet que les progrès pourraient encore s’accélérer dans les années à venir. S’appuyant sur des résultats internes à OpenAI, il dit avoir « une forte conviction que cette vitesse de progression pourrait se maintenir jusqu’à l’auto-amélioration récursive ». Autrement dit, si le développement de l’IA se poursuit sur sa trajectoire actuelle, les futurs systèmes pourraient non seulement connaître de nouveaux bonds de capacités, mais aussi participer eux-mêmes de manière beaucoup plus active à leur propre développement. Un scénario qui soulève des questions fondamentales sur le contrôle humain de ces technologies.

## La cybersécurité, un domaine à double tranchant

Parmi les domaines où les capacités des modèles progressent particulièrement vite, Jakub Pachocki cite la cybersécurité. Les intelligences artificielles deviennent capables de réaliser des opérations auparavant réservées à des experts humains, notamment dans la recherche de vulnérabilités informatiques. Cette avancée représente à la fois un risque majeur et une opportunité stratégique.

D’un côté, ces capacités pourraient être utilisées pour renforcer la sécurité des infrastructures critiques et se défendre contre d’autres systèmes malveillants. De l’autre, elles ouvrent la voie à des attaques d’une sophistication inédite. Mais pour le scientifique, cette justification ne doit pas conduire à une course sans limite au développement. « L’idée de foncer à tout prix semble absurde dès lors que l’on mesure pleinement la gravité des enjeux », écrit-il avec une franchise remarquable pour un acteur majeur de ce secteur.

## Des pistes pour encadrer le développement

Face à ces défis, Jakub Pachocki esquisse plusieurs pistes d’action. « Nos principaux leviers consistent soit à orienter le processus pour renforcer l’alignement et le suivi parallèlement à l’IA et trouver des moyens de tenir les chercheurs informés ; soit à nous coordonner pour ralentir les développements futurs si nécessaire afin de renforcer la confiance dans ces mesures », détaille-t-il.

Il assure qu’OpenAI « poursuivra ses efforts pour trouver des solutions techniques d’alignement et de surveillance ». Mais il se dit aussi « convaincu que des interventions plus larges sont indispensables ». Le scientifique en chef estime notamment qu’une coordination internationale sur le sujet doit devenir « une priorité absolue pour les gouvernements du monde entier ». Un appel qui résonne avec les préoccupations croissantes des institutions internationales.

## L’ONU alerte également sur les risques existentiels

Cette prise de position intervient dans un contexte de vigilance accrue au niveau mondial. Ce lundi 7 septembre, le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, a lui aussi alerté sur la nécessité d’élaborer rapidement une gouvernance de l’intelligence artificielle. À l’ouverture de la 63e session du Conseil des droits de l’homme à Genève, il a affirmé que l’IA avancée « pourrait faire peser un risque existentiel sur l’humanité », comme le rapporte Le Parisien.

« Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante », a défendu Volker Türk avec des exemples frappants. Ces déclarations convergent avec celles de Jakub Pachocki et témoignent d’une prise de conscience croissante au plus haut niveau, tant dans le secteur privé que dans les instances internationales.

## Un appel à la prudence face à une révolution en marche

Les avertissements du scientifique en chef d’OpenAI et du Haut-Commissaire de l’ONU dessinent une même conclusion : le développement de l’intelligence artificielle atteint un point de bascule où les questions de sécurité et de gouvernance deviennent aussi importantes que la course à la performance. Entre promesses technologiques et risques potentiels, la communauté internationale se trouve face à un défi inédit qui nécessitera une coopération sans précédent entre États, entreprises et chercheurs. Le message de Jakub Pachocki est clair : la prudence doit désormais guider l’innovation, sous peine de voir les machines progresser plus vite que notre capacité à en maîtriser les conséquences.