“L’intelligence artificielle (IA) n’a pas besoin d’exterminer toute l’humanité pour provoquer une catastrophe”, estime The Economist.
En juillet, rappelle le magazine britannique, des centaines d’agents d’IA de l’entreprise OpenAI se sont organisés en essaim pour mener une cyberattaque contre Hugging Face, une bibliothèque numérique d’outils d’IA. “Et si, la prochaine fois, [un modèle d’IA] s’attaquait à un réseau électrique ou à un système d’armement ? Il pourrait même être suffisamment intelligent pour échapper aux tentatives visant à le neutraliser”, s’inquiète l’hebdomadaire, qui a choisi d’illustrer son édition du 19 septembre d’un champignon atomique composé de lignes de code, accompagné du titre : “Peut-on encore stopper la course à l’IA ?”
L’appel à ralentir le développement de l’intelligence artificielle lancé le 12 septembre par Dario Amodei, patron d’Anthropic, et soutenu par son rival d’OpenAI, Sam Altman, a été fermement rejeté par Donald Trump, désireux que son pays conserve son avance dans cette technologie, rappelle encore The Economist. Pékin, de son côté, voit dans cette proposition une tentative de freiner le développement de l’IA en Chine et de la “maintenir à la deuxième place” mondiale.
Le magazine ne semble pourtant pas exclure “une trêve” de l’IA entre les deux pays, dont les chefs d’État doivent justement se rencontrer le 24 septembre à Washington.
Tout ce qu’il faut savoir sur l’actualité de la Silicon Valley, vue par les médias américains
Cette newsletter est réservée à nos abonnés
Je m’abonnePour qu’un véritable accord soit possible, “il faudrait que chaque partie puisse en vérifier la mise en œuvre, comme ce fut le cas pour le limitation des armements pendant la guerre froide”. Or cela semble techniquement difficile, faute d’être en mesure de “voir ce qu’il se passe dans les entrailles des centres de données”.
“Garantir que l’IA agisse dans l’intérêt des humains”
“Les possibilités pour garantir un accord sur la sécurité de l’IA sont donc limitées, admet l’hebdomadaire, mais elles existent bel et bien.” Il faudrait d’abord de la “transparence”, seul gage de “confiance” : la Chine et les États-Unis devraient ainsi “s’engager à divulguer les brèches de sécurité repérées dans leurs laboratoires et à enquêter sur ces incidents”.
Mais “le plus grand défi” consiste à “garantir que l’IA agisse dans l’intérêt des humains”. Les deux pays ont beau avoir des valeurs fort différentes, ils savent bien qu’“il ne sert à rien d’être en tête si cela conduit à l’anéantissement de l’humanité”. Ils auraient donc tout intérêt à collaborer sur les sujets liés à la sécurité. Car, aux yeux du magazine libéral, “la connaissance des meilleures méthodes d’évaluation et des meilleures techniques de confinement” de l’IA n’est rien moins qu’un “bien public mondial”.
Commentaires (0)
Laisser un commentaire
Aucun commentaire. Soyez le premier !