Intelligence artificielle et risques existentiels pour l’humanité : au-delà du brouillard médiatique

Rarement une innovation technologique aura autant saturé l’espace médiatique et suscité un tel contraste de réactions, allant d’un enthousiasme débordant à une peur de fin du monde. Pour certains, l’intelligence artificielle « pourrait tuer tous les humains dans la décennie » ¹ [1]. Pour d’autres, à l’inverse, ces déclarations relèvent de romans de science-fiction et pourraient nuire à la capacité de cette technologie à apporter de grands bénéfices à la société [2] ainsi qu’à la mise en place de mesures adaptées pour éviter des risques graves et avérés. Dans cet article, par IA, nous entendons essentiellement les IA génératives (ChatGPT, Claude et autres concurrents) capables de traiter de tout type de problème, avec leurs variantes « agentiques », c’est-à-dire dotées de possibilités d’intervenir sur l’environnement extérieur. Et nous ne traitons que des affirmations relatives à un risque existentiel et une possible extinction de l’humanité.

Un thème récurrent dans la littérature

L’idée que des machines supplantent un jour les humains, faute pour ces derniers d’avoir pu leur assigner la bonne place et les bons objectifs, a irrigué la littérature depuis longtemps. Précurseur, dès 1863, l’écrivain britannique Samuel Butler décrivait de façon ironique un monde où les machines évolueraient à un rythme tel que l’humanité se verrait réduite à l’esclavage : « Jour après jour, les machines gagnent du terrain ; jour après jour, nous devenons plus dépendants d’elles ; chaque jour, davantage d’Hommes sont réduits en esclavage pour les entretenir, chaque jour, davantage d’Hommes consacrent l’énergie de leur vie entière au développement de la vie mécanique. L’issue n’est qu’une question de temps, mais nul esprit véritablement philosophique ne saurait remettre en question le fait que viendra le jour où les machines exerceront une suprématie réelle sur le monde et ses habitants » [3].

Alan Turing, pionnier de l’informatique et de l’intelligence artificielle, annonçait en 1951, sans alarmisme, qu’« à un certain stade, il faudrait donc s’attendre à ce que les machines prennent le contrôle dans le sens mentionné par Samuel Butler » [4].

L’impossibilité pour les humains de pouvoir bien contrôler le comportement des machines a fourni la trame des romans d’Isaac Asimov sur les robots. Introduites dans Cercle vicieux, une nouvelle publiée en 1942, trois « lois de la robotique » sont gravées dans le « cerveau » des machines. Elles définissent une hiérarchie de règles visant d’abord à protéger les êtres humains, ensuite à ce que les robots leur obéissent et, enfin, à assurer la préservation des robots. Ces lois font étrangement penser aux difficultés actuelles de l’« alignement » des intelligences artificielles, ces processus visant à faire en sorte que les grands modèles de langage produisent des réponses conformes aux intentions, aux valeurs et aux exigences de leurs concepteurs. Isaac Asimov, tirant les leçons du comportement de ses robots imaginaires, a ajouté une loi, ou « loi zéro », primant sur les autres, qui stipule qu’« un robot ne peut porter atteinte à l’humanité ni, restant passif, permettre que l’humanité soit exposée au danger » [5]. Mais cela sera loin de résoudre les problèmes, soulevant des questions très actuelles : qui définit le bien de l’humanité ? Jusqu’où sacrifier des individus au nom de l’intérêt collectif ? Comment arbitrer entre le présent et le futur et comment être certain qu’une action nuisible à court terme protégera réellement l’humanité à long terme ?

Emballement médiatique

C’est avec les récents et impressionnants développements de l’intelligence artificielle que cette thématique de risque existentiel a progressivement envahi l’espace public. En 2014, plusieurs scientifiques, dont le physicien Stephen Hawking, tout en saluant les « immenses avantages potentiels » que cette technologie pourrait offrir, alertent sur le fait que cette création pourrait aussi être la dernière de l’humanité, « à moins que nous n’apprenions à en éviter les risques » [6]. Les déclarations alarmistes vont alors s’accumuler : « avec l’intelligence artificielle, nous invoquons le démon » (Elon Musk, 2014 [7]), « probablement la plus grande menace pour la survie de l’humanité » (Sam Altman, futur dirigeant de l’entreprise OpenAI créatrice de ChatGPT, 2015 [8]), « atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que d’autres risques à l’échelle de la société comme les pandémies et la guerre nucléaire » (appel d’un groupe de scientifiques et d’entrepreneurs, 2023 [9]), « il y a 10-20 % de probabilité que l’IA entraîne l’extinction de l’humanité d’ici trente ans » (Geoffrey Hinton, scientifique et prix Nobel, 2024 [10]), « il y a 25 % de chances que les choses tournent mal, très mal » (Dario Amodei, dirigeant de l’entreprise Anthropic, créatrice de l’assistant IA Claude, 2025, [11])… Très récemment, en septembre 2026, c’est cette affirmation d’un ingénieur venant de quitter Anthropic qui a enflammé les médias : « les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie » [12]. Un responsable d’Anthropic a renchéri en affirmant : « personnellement, je pense que ce risque est supérieur à 10 % au cours de la prochaine décennie » [12].

À l’opposé, d’autres scientifiques ou entrepreneurs de renom dénoncent ces visions apocalyptiques : « d’une certaine manière, ça reste de la science-fiction et donc, de mon point de vue, c’est de la diversion qui est faite de manière complètement réfléchie pour être de la diversion » (Arthur Mensch, dirigeant de l’entreprise Mistral [13]), « c’est absolument du n’importe quoi et à mon avis, c’est un discours extrêmement dangereux » (Yann LeCun, prix Turing, ancien directeur scientifique de l’IA de Meta et fondateur d’AMI Labs, 2026 [13]), « 2030 ne sera pas la fin du monde. Il n’y a absolument aucune chance que ce soit le cas » (Jensen Huang, dirigeant de Nvidia, leader mondial des puces alimentant l’intelligence artificielle, 2026 [14]).

Certains veulent voir dans cet emballement médiatique une stratégie de « marketing de la peur » des grands acteurs américains destinée à conforter leurs positions dominantes face à la concurrence étrangère. Ils soulignent le paradoxe des appels à la pause portés par des acteurs majeurs du domaine qui mènent en parallèle une course effrénée aux investissements. Pour eux, cette stratégie pourrait ainsi répondre à l’objectif d’attirer des financements afin de soutenir des modèles économiques encore fragiles dans un contexte d’introduction en bourse [15].

Quels scénarios ?

Le risque existentiel peut renvoyer à l’extinction humaine, mais aussi, dans certaines définitions, à une destruction durable des conditions permettant à l’humanité de poursuivre son développement ou de préserver son avenir. Ceux qui alertent sur ce risque mettent en avant deux éléments aujourd’hui bien documentés.

D’une part, les performances des modèles d’IA ne cessent de croître depuis le lancement de ChatGPT en 2022. Portées par l’accroissement de la puissance de calcul, puis par de nouvelles méthodes d’apprentissage, elles se traduisent par la « saturation des tests de référence » (benchmarks) : les modèles atteignent rapidement des scores proches du maximum, obligeant leurs concepteurs à en inventer sans cesse de plus difficiles [16].

D’autre part, des tests en environnement contrôlé montrent régulièrement des systèmes qui poursuivent des objectifs contraires aux intentions de leurs concepteurs (problème dit de l’« alignement ») et, dans certains cas, des actions au-delà des autorisations que ces concepteurs pensaient avoir accordées. Ces comportements illustrent des mécanismes susceptibles de conduire à une « perte de contrôle » lorsque ces systèmes disposent d’une autonomie que les mesures de surveillance, de correction et d’arrêt mises en place ne suffisent pas à maîtriser.

L’affirmation de risques pour l’humanité repose sur une extrapolation de ces deux éléments [17][18]. D’une part, les performances continueraient de croître, voire s’emballeraient, jusqu’à une « super-intelligence », quels que soient les termes et définitions retenus. Ces capacités pourraient alors être détournées, par la machine en autonomie ou par malveillance (attaques d’infrastructures critiques, armes biologiques). D’autre part, faute d’existence de méthodes fiables pour garantir l’« alignement  » et à cause d’une mise en place défaillante des confinements de ces systèmes, les comportements observés aujourd’hui en test pourraient demain conduire aux catastrophes redoutées.

Concrètement, les risques existentiels sont décrits à travers des scénarios tels que la création et la dissémination d’un nouvel agent biologique dangereux, l’immixtion dans la chaîne de commandement des armes nucléaires ou encore des effets systémiques conduisant à l’effondrement de nos sociétés (pertes d’emploi, manipulations des opinions à grande échelle…) [19].

Les objections mises en avant relèvent de plusieurs registres [16]. Les performances et l’autonomie actuelles restent loin de celles redoutées et des sauts conceptuels restent à franchir. L’approche technique existante pourrait buter sur ses limites : données, énergie, paradigmes d’apprentissage et fiabilité. De plus, les résultats des tests réalisés en laboratoire sont souvent loin de prédire les performances en situation réelle. Une partie des comportements inquiétants est obtenue dans des scénarios de test conçus pour les provoquer. Enfin, le risque tiendrait moins à l’IA elle-même qu’aux choix humains de lui accorder accès et autorisations sans garde-fous suffisants.

Prédictions des spécialistes ou expertises collectives ?

Il est ainsi difficile pour les observateurs de se faire une opinion, particulièrement pour un sujet d’une grande complexité technique et s’agissant d’impacts futurs toujours difficiles à anticiper. Dans ce contexte, les scientifiques de renom qui maîtrisent la technique sous-jacente ou les dirigeants d’entreprise placés au cœur de l’écosystème économique sont-ils les mieux armés pour anticiper de façon fiable les risques à venir ?

Paradoxalement, il semble que ce ne soit pas établi [20]. D’une manière générale, plusieurs biais peuvent affecter le travail de prospective technologique [21] : occultation des dimensions non technologiques, sous-estimation des coûts et délais, surestimation de probabilités d’occurrence, mauvaise prise en compte des difficultés passées, etc. Sans écarter les possibles stratégies délibérées et intéressées. Une étude spécifique sur les prédictions passées notait que « la fiabilité générale du jugement d’experts dans les prédictions chronologiques de l’IA s’avère faible, un résultat qui concorde avec les études antérieures sur la compétence des experts » [22]. Bien entendu, cette analyse est à relativiser : elle date de 2014 et la technologie a radicalement évolué depuis. Mais elle invite à la prudence : la technologie a certes changé, mais la faillibilité des experts humains et leur sensibilité au contexte informationnel, elles, n’ont pas changé.

Plutôt que rechercher une expertise individuelle fiable (on en trouvera forcément une qui corresponde à ses préjugés), il apparaît plus robuste de se tourner vers des processus d’élaboration collective et validés en appui aux politiques publiques.

Au moins trois organismes ont ainsi été constitués et ont commencé à produire des analyses. Il s’agit du Groupe scientifique international indépendant de l’intelligence artificielle créé par l’ONU en août 2025 en s’inspirant de l’organisation du Giec sur le climat [23], de l’International AI Safety Report, établi en 2023 sous l’égide du gouvernement britannique appuyé par un panel consultatif d’experts internationaux et des délégués d’une trentaine de pays, ainsi que des représentants de l’Union européenne, de l’OCDE et de l’ONU [24] et enfin du Partenariat mondial sur l’intelligence artificielle (ou GPAI en anglais), lancé en 2020 à l’initiative de la France et du Canada et intégré à l’OCDE depuis 2024 [25].

Ces sources collectives, bien que fragiles car portant sur un domaine récent et controversé, reflètent probablement bien mieux l’état des connaissances et la nature des débats que les déclarations individuelles médiatisées ou les alertes émanant d’associations. Les rapports élaborés sont le fruit d’une analyse de la littérature scientifique, d’une discussion ouverte et d’un processus de validation.

Ce que décrivent les expertises collectives

Le rapport du Partenariat mondial sur l’intelligence artificielle décrit ainsi quatre trajectoires possibles pour 2030, allant d’un scénario où « les progrès stagnent » (scénario n° 1) à un scénario où « les progrès s’accélèrent » (scénario n° 4) [26]. Selon ce dernier scénario, le plus ambitieux, le rythme des progrès entre 2025 et 2030 est supérieur à celui de 2020 à 2025. Il prévoit qu’en 2030, « les systèmes d’IA atteignent l’équivalence humaine sur la plupart des capacités cognitives humaines, voire sur toutes ». Ils seront capables de fonctionner « avec un degré d’autonomie comparable à celui des humains » avec « des objectifs stratégiques larges, sur lesquels ils peuvent réfléchir et qu’ils peuvent réviser si les circonstances changent » et « collaborent avec des humains lorsque c’est nécessaire pour faire avancer ces objectifs ». Ces systèmes « s’intègrent facilement dans les environnements sociaux humains et gèrent des interactions complexes et variées avec de multiples interlocuteurs ». Cette présentation purement descriptive est loin de la description d’une extinction de l’humanité.

De son côté, le Comité consultatif international d’experts sur la sécurité de l’IA a également examiné plusieurs trajectoires dans son rapport de 2026 [16]. Il consacre une section aux scénarios dans lesquels un ou plusieurs systèmes d’IA généralistes « fonctionnent en dehors du contrôle de quiconque et où la reprise du contrôle s’avère extrêmement coûteuse, voire impossible ». Mais sur la probabilité de ces scénarios, et surtout sur l’importance de leurs impacts potentiels, particulièrement en termes de risques pour l’humanité, le rapport constate les désaccords entre experts : « certains considèrent plausibles des effets aussi extrêmes que l’extinction de l’humanité » quand d’autres jugent, à l’inverse, « que ces conséquences catastrophiques ne sont pas crédibles ». Le rapport ne décrit pas directement de scénarios précis mettant en jeu un risque pour l’humanité. Il se contente d’identifier des domaines critiques (réseaux énergétiques, systèmes financiers, infrastructures de cloud) et l’enjeu des autorisations qui sont données aux programmes pour agir sur leur environnement extérieur.

Enfin, le rapport du Groupe scientifique international indépendant de l’intelligence artificielle mis en place par l’ONU s’intéresse à « une analyse équilibrée des risques et des possibilités liés à l’intelligence artificielle » en se concentrant sur « ceux qui sont les plus immédiats » [27]. Ainsi, il ne parle pas de risque existentiel pour l’humanité et réserve le qualificatif de « catastrophique » aux usages malveillants tels que « la fraude, l’ingénierie sociale [manipulations psychologiques], les cyberattaques, la désinformation, des applications biotechnologiques détournées et la manipulation financière ». Précisons cependant que les missions du Groupe se limitent au domaine non militaire.

Les scénarios de fin de l’humanité dans le débat public

Le risque existentiel n’est donc pas au centre de ces expertises collectives, même si certains experts le mettent en avant. En revanche, on trouvera une profusion d’organismes indépendants construits sur cette problématique et largement médiatisés qui alertent sur l’imminence de ce risque.

Ainsi, par exemple, l’AI Futures Project a établi des trajectoires d’évolution sur la base de modèles informatiques extrapolant quelques tendances mesurables à l’aide de paramètres fixés à dires d’expert. Publié en avril 2025, leur scénario a rencontré un très fort écho [28]. Il décrivait une IA désalignée qui finirait vers 2030 par « libérer une arme biologique qui tue tous les humains » [29]. L’échéance a rapidement été repoussée de quelques années [30].

Le Center for AI Safety combine recherche technique et intervention dans l’espace public. Il est à l’origine de la déclaration de mai 2023 affirmant qu’« atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que […] les pandémies et la guerre nucléaire » [9].

Le Future of Life Institute fondé en 2014 mène son action par des lettres ouvertes, des films et des actions auprès de l’ONU, des États-Unis et de l’Union européenne. Il est doté de moyens considérables, financé à ses débuts par Elon Musk (10 millions de dollars en 2015), puis surtout par Vitalik Buterin, le créateur de la cryptomonnaie Ethereum (avec un don équivalent à 665 millions de dollars en cryptomonnaie en 2021 [31]). L’institut a lancé en mars 2023 une lettre ouverte appelant « tous les laboratoires d’IA à suspendre immédiatement, pendant au moins six mois, l’entraînement de systèmes d’IA plus puissants que GPT-4 » [32]. Dans la lignée de cet appel, l’organisation transnationale Pause AI a été fondée en 2023 (financée en 2025 à hauteur de plus de 400 000 euros par le Future of Life Institute [33]) et met en avant le risque existentiel pour exiger une pause des développements des modèles les plus puissants [34]. En 2025, Maxime Fournes, cofondateur de Pause AI en France et actuel directeur de Pause AI au niveau international, dénonce « une course qui pourrait mettre fin à l’histoire humaine » [35].

En France, la chaîne vidéo Le Futurologue est aussi un important relais de ces discours [36]. Ses émissions portent des titres très marqués : « Il sera bientôt trop tard » (plus de deux millions de vues), « Bientôt la fin de l’humanité », « L’IA menace l’humanité, que faire ? », « IA : pourquoi personne ne voit le cataclysme venir ? »…

Le scénario de risque d’extinction de l’humanité s’est installé dans le débat public. La force de ce discours est qu’un danger d’une telle importance, quelle que soit sa probabilité, accapare nécessairement l’attention et est devenu omniprésent dans les médias. Il est impossible de prouver que ce risque n’existe pas, et il est difficile de contester sa plausibilité sans passer pour un irresponsable, ou sans donner l’impression de minimiser les risques de l’IA, pourtant bien réels.

Indiquons par ailleurs que certains discours affirment, sans plus de solidité argumentative, que l’intelligence artificielle pourrait sauver l’humanité ou résoudre certains des problèmes majeurs qu’elle rencontre. Ce sont parfois d’ailleurs les mêmes qui alertent sur le risque d’extinction. Ainsi, en 2024, Sam Altman, dirigeant d’OpenAI déjà cité, décrivait l’arrivée très prochaine de « l’ère de l’intelligence », après l’ère industrielle, où « grâce à ces nouvelles capacités, nous pourrons atteindre une prospérité partagée à un degré aujourd’hui inimaginable ». Il promet un avenir « radieux » et des « triomphes stupéfiants » tels que « la maîtrise du climat, l’établissement d’une colonie spatiale et la découverte de tous les principes de la physique » [37].

Conclusion

L’intelligence artificielle est une technologie majeure qui révolutionne de nombreux domaines. Elle est porteuse de progrès, mais présente également des risques qui peuvent être catastrophiques pour nos sociétés. Le rapport sur la sécurité de l’IA évoqué plus haut les décrit en distinguant trois catégories [17] : l’utilisation malveillante, les dysfonctionnements et les risques systémiques. Certains peuvent entraîner d’importantes conséquences délétères : cybercriminalité, risques biologiques ou chimiques, impacts sur l’emploi, la cognition, domination de quelques entreprises, fracture mondiale… Il ne s’agit pas d’opposer ces « vrais risques » aux risques de disparition de l’humanité, mais de tous les considérer, les analyser, évaluer leur plausibilité et savoir dimensionner les mesures à mettre en place.

Le discours catastrophiste et alarmiste, souvent accompagné d’un vocabulaire métaphorique ou anthropomorphique inadapté, brouille la compréhension et donc la manière dont on peut assurer des développements plus sûrs et maîtriser une technologie par ailleurs potentiellement porteuse d’immenses bénéfices pour la société (voir par exemple à propos de la cyberattaque de programmes d’OpenAI [38]).

Le rapport sur la sécurité de l’IA indique quelques axes : mieux concevoir les modèles (interprétabilité des comportements, limitation des actions sur le monde extérieur, particulièrement quand il s’agit d’infrastructures critiques, etc.), mieux surveiller le fonctionnement avec possibilité d’arrêt, améliorer les cadres de sûreté des entreprises. Il souligne combien la régulation est difficile : les processus de gouvernance existants peuvent être lents à s’adapter à une technologie qui évolue très vite et inadaptés pour évaluer un risque « dont la probabilité, la nature et le timing restent exceptionnellement ambigus » [16].

Les décideurs politiques font face à un « dilemme de la preuve »  : agir trop tôt risque de produire « des interventions inefficaces, voire nuisibles », tandis qu’attendre « peut rendre les sociétés vulnérables » [16]. S’y ajoutent l’opacité des développeurs, qui gardent leurs informations largement confidentielles, et la concurrence, entre entreprises comme entre États, qui pénalise ceux qui investissent dans la sécurité face à ceux qui privilégient la rapidité de développement, ce qui justifie la mise en place d’une gouvernance internationale.

Dans un domaine aussi incertain, la qualité du débat dépend moins de la force des déclarations que de la rigueur avec laquelle les hypothèses sont examinées, les désaccords explicités et les décisions justifiées.