“L’action nationale est essentielle, mais la coordination mondiale est indispensable.” C’est par ces mots qu’Antonio Guterres, secrétaire général de l’ONU, a appelé à réguler l’intelligence artificielle (IA), le 16 septembre dernier, lors d’une conférence de presse consacrée à la coopération internationale face à trois menaces existentielles : “une intelligence artificielle hors de contrôle, la crise climatique et l’aggravation intolérable des inégalités”.

Une déclaration qui a fait suite à une “semaine frénétique” sur le front de l’intelligence artificielle, comme la décrit El País. Rembobinons : le 8 septembre, OpenAI annonce avoir résolu l’un des “sept problèmes du millénaire”, une énigme mathématique réputée insoluble. Le même jour, un chercheur d’Anthropic présente sa démission afin de ne pas contribuer par son travail à une possible extinction de l’humanité – car l’IA “pourrait tous nous tuer d’ici à la fin de la décennie”. Le 11 septembre, Anthropic dit avoir déjoué des tentatives de mise au point d’armes chimiques à l’aide de ses modèles d’IA. Dès le lendemain, le patron d’Anthropic, Dario Amodei, appelle publiquement à un ralentissement et à une régulation externe des entreprises du secteur. Sam Altman, son homologue chez OpenAI, Demis Hassabis, chef de l’IA chez Google, et même Elon Musk, patron de xAI, lui emboîtent le pas. Une semaine folle !

Mais c’est plus tôt, l’été dernier, avec la tentative de piratage d’un essaim d’agents IA sortis de leur “bac à sable” pour attaquer l’entreprise Hugging Face, que les doutes ont véritablement surgi. Que faire si les agents se “concertent” entre eux pour mener des actions répréhensibles ? “Comment ne pas y voir un monstre technologique qui tire de toutes ses forces sur sa laisse et peine à être maîtrisé par ses créateurs, lesquels ne saisissent pas pleinement son potentiel ?” s’interroge Hadas Gold, spécialiste du sujet pour CNN, dans un article écrit pour Courrier international. Nous avions déjà prévu de répondre à cette question avec les nombreux articles de la presse étrangère publiés avant cette folle semaine. Mais, depuis, l’avertissement un brin dramatique des PDG du secteur a suscité d’autres interrogations, qui sont venues enrichir notre dossier.

À lire aussi : Opinion. Un “Hiroshima de l’IA” suffira-t-il à réveiller l’humanité ?

Tous ces grands patrons de l’IA ont-ils soudain cessé de croire en leur création, alors même qu’ils continuent à investir et à préparer leur entrée en bourse (reportée à 2027 pour Anthropic) ? L’IA est réellement une menace pour l’humanité ? Et dans ce cas, pourquoi ne pas arrêter carrément la recherche sur le sujet, par le biais d’un moratoire, plaide Parmy Olson, chroniqueuse spécialisée dans les technologies de Bloomberg.

Tout ce qu’il faut savoir sur l’actualité de la Silicon Valley, vue par les médias américains

Cette newsletter est réservée à nos abonnés

Je m’abonne