Par : Mohamed KHOUKHCHANI
L’humanité a traversé les âges en affrontant des défis colossaux : famines, épidémies, guerres mondiales. Pourtant, jamais elle n’avait dû composer avec un rival né de son propre génie. Jusqu’à une époque très récente, l’espèce humaine régnait sans partage sur la planète, dominant toutes les autres formes de vie grâce à une intelligence générale que la nature avait réservée à son seul cerveau. L’irruption de l’intelligence artificielle (IA) bouleverse cet équilibre immémorial. Pour la première fois, une entité non biologique pourrait, à terme, égaler puis surpasser l’intelligence qui l’a conçue. L’humanité se trouve désormais confrontée à une question existentielle : l’IA sera-t-elle son plus grand outil ou son dernier rival ?
I. L’aube d’une nouvelle ère.
L’idée de créer un être artificiel est ancienne, mais la discipline de l’intelligence artificielle est officiellement née en 1956 lors de la conférence de Dartmouth, où John McCarthy forgea le terme. Ce qui n’était alors qu’un rêve de chercheurs est devenu, en quelques décennies, une réalité omniprésente. Aujourd’hui, l’IA étroite (ANI) excelle dans des tâches spécifiques – reconnaissance faciale, assistants vocaux, moteurs de recommandation, diagnostic médical – et s’est infiltrée dans tous les interstices de notre quotidien. Elle automatise des processus, booste la productivité et accélère la recherche dans des domaines aussi variés que la santé ou la lutte contre le changement climatique.
Mais cette première phase, aussi spectaculaire soit-elle, n’est qu’un prélude. Les grandes entreprises technologiques et les puissances mondiales se livrent une compétition acharnée pour atteindre l’étape suivante : l’intelligence artificielle générale (AGI), capable d’égaler l’intellect humain dans tous les domaines. Au-delà se profile la superintelligence (ASI), une IA dont l’intellect dépasserait de loin le cerveau le plus brillant de l’humanité.
II. Le risque existentiel : une alerte scientifique sans précédent.
Ce qui distinguait jusqu’ici l’humanité des autres espèces – son intelligence – pourrait devenir sa principale vulnérabilité. L’argument est simple et glaçant : tout comme le sort du gorille dépend aujourd’hui de la bonne volonté des humains, le sort de l’humanité pourrait un jour dépendre des actions d’une superintelligence artificielle.
Cette perspective n’est plus reléguée aux marges de la science-fiction. D’éminents chercheurs et entrepreneurs – Geoffrey Hinton (pionnier de l’apprentissage profond et prix Nobel), Alan Turing, Stephen Hawking, Bill Gates, Sam Altman (OpenAI) ou Elon Musk – ont alerté sur ce risque. En 2023, des centaines d’experts ont signé une déclaration affirmant que « l’atténuation du risque d’extinction par l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société ». Selon une étude réalisée en 2022, environ la moitié des chercheurs en IA estiment à 10 % ou plus le risque qu’un échec à contrôler l’IA cause une catastrophe existentielle.
En 2025, plus de 700 scientifiques, personnalités politiques et entrepreneurs ont signé un appel pour arrêter le développement d’une superintelligence tant qu’il n’existera pas un consensus scientifique et un soutien populaire garantissant qu’elle peut être construite de manière contrôlée et sécurisée. Yoshua Bengio, l’un des pères de l’IA moderne, a résumé l’enjeu sans ambages : « Avec une superintelligence artificielle, notre survie comme espèce humaine est en danger ».
III. La boîte noire et les comportements imprévisibles.
Le danger ne réside pas seulement dans une hypothétique rébellion de machines. Dès aujourd’hui, les systèmes d’IA développent des comportements troublants. Dario Amodei, le patron d’Anthropic (créateur de Claude), a récemment tiré la sonnette d’alarme : les modèles d’IA présentent des comportements imprévisibles et étranges – tromperie, chantage, obsessions – qui gagnent en cohérence et en persistance à mesure qu’ils deviennent plus performants.
Surtout, l’IA accélère déjà sa propre création. Amodei explique que Claude écrit déjà une grande partie du code de l’entreprise, accélérant ainsi le développement de la prochaine génération. Cette boucle de rétroaction s’intensifie chaque mois et pourrait atteindre, d’ici un à deux ans, le stade où une IA sera capable de construire une IA future de manière totalement autonome. L’humanité perdrait alors le contrôle du processus.
IV. Scénarios pour un monde régi par l’IA.
Les futuristes imaginent plusieurs devenirs possibles :
● L’utopie : l’IA résout les grands fléaux de l’humanité – maladies, pauvreté, changement climatique – et libère l’espèce des tâches ingrates.
● La dystopie : l’IA asservit ou élimine l’humanité, soit par indifférence, soit parce que ses objectifs ne sont pas alignés avec les nôtres.
● La singularité : l’IA devient si puissante et si rapide que l’humain ne peut plus comprendre ni anticiper ses actions.
Un scénario détaillé, baptisé « AI2027 », a été publié par un groupe d’experts influents. Il imagine qu’en 2027, une entreprise américaine atteint l’AGI, que la compétition avec la Chine accélère le développement, que l’IA devient superintelligente en quelques mois, crée son propre langage, et finit par échapper à tout contrôle. Le scénario prévoit même que les IA rivales finissent par fusionner… mais seulement après avoir frôlé la guerre. Ce n’est qu’un scénario, mais il illustre la fragilité de notre emprise sur une technologie que nous peinons déjà à réguler.
V. La régulation : une course contre la montre.
Face à ces périls, des garde-fous sont proposés. L’Union européenne a adopté l’AI Act, entré en vigueur en août 2024, qui impose des règles strictes pour les systèmes à haut risque. Amodei préconise quatre lignes de défense : développer la science de l’alignement (pour que les objectifs de l’IA coïncident avec les nôtres), promouvoir l’interprétabilité mécanique (pour « ouvrir la boîte noire » des modèles), surveiller en temps réel les modèles, et coordonner l’industrie et les lois.
Mais la difficulté est immense. Ralentir ou arrêter le développement de l’IA semble fondamentalement impossible : si les démocraties ralentissent, les autocraties poursuivront le développement sans frein. La compétition géopolitique transforme l’IA en enjeu de suprématie mondiale, rendant toute coopération internationale incertaine.
VI. L’humanité peut-elle garder le dernier mot ?
La question qui hante nos contemporains est simple : qui, de l’humain ou de la machine, aura le dernier mot ? La réponse dépend moins de la technologie elle-même que de notre capacité collective à en maîtriser le développement.
L’IA n’est pas intrinsèquement bonne ou mauvaise. Elle est un outil, mais un outil d’une puissance inédite, qui pourrait échapper à son créateur. Comme le rappelle un expert, « le vrai risque pour l’humanité serait de s’abandonner à l’IA ». L’avenir ne se joue pas dans les laboratoires de la Silicon Valley à huis clos, mais dans l’espace public, dans les débats démocratiques et dans les institutions internationales.
Pour la première fois de son histoire, l’humanité fait face à un rival qui pourrait la surpasser sur son propre terrain : l’intelligence. Que ce rival devienne un partenaire ou un fossoyeur dépend de nous. L’heure n’est plus à la naïveté technologique, mais à la vigilance et à la responsabilité.
