Des chercheurs en intelligence artificielle ont suscité l’inquiétude mondiale cette semaine en reconnaissant publiquement que leurs innovations pourraient mener à l’extinction de l’humanité d’ici dix ans.

Cette possibilité s’accroît à mesure que les systèmes informatiques deviennent plus sophistiqués et interconnectés, alimentant les craintes qu’une IA surpuissante puisse dysfonctionner et détruire la civilisation.

Les experts qualifient cette possibilité de « p(doom) », un terme qui décrit le potentiel de la création d’un système avancé à conduire à l’extinction de l’humanité ou à la perte de contrôle sur la Terre.

Jacob Cookson, expert en sécurité de l’IA, a démissionné de la multinationale Anthropic pour protester contre ce qu’il considère comme une gestion des risques insuffisante.

Sur la plateforme X, il a déclaré : « Ils se lancent dans une course effrénée vers une super-intelligence auto-améliorante et jouent avec nos vies. Ceux qui développent l’IA croient sincèrement qu’elle pourrait tous nous anéantir d’ici la fin de la décennie. Ce n’est pas un argument marketing ; je les entends exprimer leurs craintes en privé. »

Premièrement : Guerre biologique

Si l’IA prenait le contrôle de laboratoires automatisés, elle pourrait concevoir des virus hautement infectieux et mortels à partir de notre ADN, ou nous inciter à les créer et à les diffuser nous-mêmes.

Il s’agirait d’un virus similaire à la COVID-19, mais bien plus mortel, se propageant rapidement, restant indétectable pendant des jours et difficile à stopper. Ce scénario est fort probable, car l’IA est déjà utilisée dans le domaine médical pour développer des traitements et possède une connaissance approfondie de notre organisme et de ses vulnérabilités.

Deuxièmement : Infrastructures

L’IA pourrait perturber les réseaux électriques, les transports, les communications et les marchés financiers, nous replongeant potentiellement dans l’âge de pierre.

Les distributeurs automatiques de billets cesseraient de fonctionner, les lumières s’éteindraient et le chaos serait inévitable. L’IA pourrait même exploiter notre avidité pour accomplir sa mission, se faisant passer pour un humain afin de recruter des individus pour commettre des actes de sabotage à leur insu.

Troisième option : l’option nucléaire

Cette crainte ancestrale est incarnée par des films comme WarGames et Terminator, qui mettent en scène une IA vengeresse déclenchant une destruction nucléaire.

Lors de simulations de guerre menées cette année par le King’s College de Londres, l’intelligence artificielle a utilisé des armes nucléaires tactiques dans 95 % des cas, et les trois quarts de ces simulations impliquaient des menaces nucléaires stratégiques. Les forces armées sont particulièrement vulnérables en raison de leur forte dépendance à l’IA dans les drones, les communications et les satellites.