« On doit d’autant plus s’inquiéter des menaces incertaines de l’IA que les désordres du monde réduisent considérablement les capacités de réponses »

L’apocalypse est de retour. Elle fut pandémique il y a quelques siècles, puis potentiellement nucléaire. Elle porte désormais les initiales de l’intelligence artificielle (IA), dont on attendait le meilleur mais qui est devenue en un temps record une usine à anxiété.

Lorsqu’il n’était question que de centres de données énergivores, le rapport entre le coût immédiat et les bénéfices escomptés pouvait encore se plaider. Puis l’IA a été associée à la destruction d’emplois, et désormais des experts venus du ventre de la bête fixent à 10 % la possibilité de destruction de l’humanité à la suite d’un coup de force des machines. De quoi nourrir calmement et raisonnablement la panique. Il faudra patienter un peu avant de savoir si cette dernière est précipitée ou légitime.

Cette situation est sans précédent, du fait de la nature insaisissable des dangers potentiels. L’apocalypse nucléaire avait au moins le bon goût de ne pas avancer masquée. De la matière fissile, une bombe, un vecteur : on était en terrain connu. Il en va autrement avec une IA qui deviendrait capable de résister à tout contrôle. Quelle forme de conflictualité avec ses concepteurs prendrait cette résistance ? Comment se manifesterait-elle ? Défensivement ou offensivement ? Par la paralysie ou l’effondrement d’infrastructures essentielles, par le piratage massif de systèmes militaires ?

On doit d’autant plus s’inquiéter de ces menaces incertaines que les désordres du monde réduisent considérablement les capacités de réponses. Il ne reste plus grand-chose de la tentative de gouvernance mondiale très imparfaite mise sur pied par les Etats-Unis après 1945. La mode actuelle, qui consiste à se draper à chaque instant dans sa petite souveraineté pour donner l’illusion de l’action face à des défis transnationaux, est une garantie d’impuissance supplémentaire face à une IA devenue voyou, ou son propre condottiere.

L’appel à la pause lancé le 12 septembre par Dario Amodei, patron d’Anthropic, l’un des moteurs qui produisent aux Etats-Unis l’emballement en cours, a été immédiatement écarté d’un revers de main par le locataire de la Maison Blanche (qui en fait un usage anecdotique délirant). Donald Trump est revenu à la Maison Blanche sur le pavois de Meta, d’Amazon et de l’empire Musk, à qui il a promis la dérégulation sans limites, immédiatement traduite par décret présidentiel. Il n’y reviendra pas.

Il vous reste 57.96% de cet article à lire. La suite est réservée aux abonnés.