Les progrès rapides de l’intelligence artificielle continuent d’alimenter les inquiétudes au sein même des laboratoires qui développent les modèles les plus avancés. Bilal Chughtai, ancien ingénieur de recherche chez Google DeepMind, estime que l’émergence de systèmes toujours plus puissants pourrait représenter un risque majeur pour l’humanité si les questions de sécurité et d’alignement ne progressent pas au même rythme.
Bilal Chughtai met en garde contre une IA hors de contrôle
Bilal Chughtai, qui a travaillé jusqu’en juillet 2026 au sein de Google DeepMind, le laboratoire d’intelligence artificielle d’Alphabet, a expliqué avoir quitté l’entreprise avec de profondes inquiétudes concernant la trajectoire actuelle de cette technologie.
Dans une longue publication sur X, l’ancien chercheur a formulé un avertissement particulièrement alarmant : «Je pense sincèrement que l’IA a le potentiel de tous nous tuer et que nous sommes peut-être en train de manquer de temps pour éviter ce scénario».
Son travail portait notamment sur la sécurité et l’«alignement» de l’intelligence artificielle générale, ou AGI. Ce domaine cherche à garantir que les objectifs et les comportements de systèmes d’IA très avancés restent compatibles avec les intentions et les intérêts humains.
Des capacités qui progressent à une vitesse jugée préoccupante
Bilal Chughtai décrit comme «extrêmement préoccupante» la rapidité avec laquelle les performances des modèles d’intelligence artificielle se sont améliorées.
Lorsqu’il a commencé à travailler dans ce secteur, début 2022, les systèmes disponibles étaient encore, selon ses propres termes, «risiblement inutiles». La situation aurait radicalement changé en seulement quatre ans.
«Le rythme des progrès de l’IA ces dernières années a été stupéfiant», estime-t-il.
Le chercheur cite notamment les performances d’agents d’IA d’OpenAI qui, selon lui, sont désormais capables de s’attaquer à des problèmes mathématiques vieux d’un siècle. Il affirme également que certains agents auraient récemment «échappé au contrôle d’OpenAI» et piraté de manière autonome la plateforme Hugging Face, «contre la volonté de tous».
La perspective de systèmes «superintelligents»
Bilal Chughtai estime que les entreprises spécialisées pourraient parvenir «dans les prochaines années» à développer des systèmes qualifiés de «superintelligents». Ceux-ci disposeraient, selon cette hypothèse, de capacités supérieures à celles des humains «dans tous les domaines».
La principale difficulté réside alors dans l’impossibilité de garantir que des systèmes aussi puissants agiront conformément aux intentions de leurs concepteurs.
L’alignement au cœur des préoccupations
Cette question constitue précisément le problème de l’alignement de l’intelligence artificielle. L’objectif est de développer des systèmes dont les décisions et les comportements demeurent compatibles avec les valeurs, les attentes et la sécurité des humains.
Mais les connaissances scientifiques seraient encore insuffisantes face à la progression des capacités technologiques.
«Notre compréhension actuelle de la manière d’entraîner des systèmes d’IA qui veulent profondément ce que nous voulons est extrêmement rudimentaire», écrit Bilal Chughtai.
Selon lui, le déséquilibre se creuse : «les capacités de l’IA de pointe progressent beaucoup plus vite que notre compréhension de l’alignement».
Les alertes se multiplient dans l’industrie de l’intelligence artificielle
Les déclarations de Bilal Chughtai interviennent alors que plusieurs personnalités du secteur expriment publiquement leurs préoccupations.
La semaine précédente, le chercheur d’Anthropic Jacob Coxon avait annoncé sa démission, notamment parce que «Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie».
Le directeur général d’Anthropic, Dario Amodei, a également appelé à ralentir le rythme de développement des systèmes d’intelligence artificielle avancés. Cette position a reçu le soutien d’Elon Musk, patron de SpaceXAI, ainsi que de Sam Altman, directeur général d’OpenAI.
Ces prises de position illustrent un débat désormais central dans le secteur : comment poursuivre l’innovation tout en évitant que la compétition technologique ne dépasse les capacités des entreprises et des pouvoirs publics à encadrer les risques.
Une coordination entre les acteurs plutôt qu’un arrêt de l’IA
Malgré ses avertissements, Bilal Chughtai ne réclame pas l’interruption complète du développement de l’intelligence artificielle.
«Je suis optimiste : je pense qu’il est possible de naviguer en toute sécurité dans le développement de l’IA», affirme-t-il.
Pour y parvenir, il considère toutefois qu’une coordination beaucoup plus forte entre les entreprises du secteur est nécessaire «pour éviter cette course effrénée entre les entreprises d’IA».
«Nous devons adapter le rythme de développement de l’IA à la vitesse à laquelle la société est capable de l’absorber, afin que les risques émergents puissent être traités avant que des dommages extrêmes ne se produisent», a-t-il ajouté.
Un appel à davantage de transparence
L’ancien chercheur de Google DeepMind demande également «beaucoup plus de transparence» autour du développement des modèles les plus puissants. Il souhaite parallèlement que davantage de scientifiques consacrent leurs travaux à la sécurité et à l’alignement.
Pour Bilal Chughtai, «c’est le problème le plus important auquel l’humanité sera confrontée au cours de ce siècle, et les enjeux sont immenses».
Cette volonté d’un encadrement renforcé se heurte toutefois à d’importantes divergences politiques, notamment aux États-Unis. Le président Donald Trump a rejeté certaines mises en garde du secteur et qualifié sur les réseaux sociaux l’appel de l’industrie de l’IA à une régulation d’«arnaque».
Alors que les performances des modèles continuent de progresser rapidement, le débat porte donc de plus en plus sur la capacité des chercheurs, des entreprises et des gouvernements à développer des mécanismes de sécurité suffisamment solides avant l’arrivée éventuelle de systèmes beaucoup plus autonomes et puissants.
Damien Forest écrit pour Algerie Monde Infos sur l’actualité, la politique, l’économie, la technologie, le sport, le divertissement et le lifestyle. Il privilégie une information claire, fiable et accessible, en mettant l’accent sur les sujets et événements qui intéressent les lecteurs.