Le « plaidoyer vibrant » du PDG d’Anthropic pour ralentir les progrès de l’intelligence artificielle

“Il est temps de lever le pied sur le développement de l’intelligence artificielle”. Ce n’est pas exactement ce qu’a écrit Dario Amodei, le PDG d’Anthropic, l’un des leaders de l’intelligence artificielle mais le Wall Street Journal a préféré le paraphraser. Dans “un essai de 4 000 mots”, comme le présente NBC, Amodei a appelé à “ralentir le rythme auquel nous améliorons les capacités des modèles d’intelligence artificielle” et à “utiliser sagement le temps que nous gagnons”. Pourquoi ? “Je crains que d’ici 6 à 12 mois, des modèles soient capables de prendre le contrôle de l’intégralité d’internet, ce qui pourrait entraîner des centaines ‌de milliards de dollars de dégâts”, ‌explique-t-il.

Cette semaine, nos articles sont

dans l’application

À lire aussi : Tech. La Silicon Valley fait de l’IA sa religion et se soucie peu de l’avertissement du pape

Ce n’est pas la première fois qu’Amodei évoque les risques éventuels de l’IA, rappelle le New York Times mais il s’agit là “d’un des plaidoyers les plus vibrants à ce jour pour des mesures d’urgence de la part d’un cadre d’une entreprise de l’IA”. Politico y voit également “une escalade notable des figures les plus importantes de la course à l’IA”.

Le contexte de cet appel à agir compte. “Le débat sur le danger de l’IA s’est intensifié cette semaine”, note TechCrunch. “C’est la semaine au cours de laquelle le débat sur le danger de l’IA a fait son entrée dans la conscience du public”, confirme Axios. Les tweets d’un ancien chercheur d’Anthropic ont fait beaucoup parler. Il y raconte que les entreprises de l’IA “jouent avec nos vies” et que certains de leurs dirigeants pensent sincèrement qu’“elle pourrait tous nous tuer d’ici la fin de la décennie”. Le message d’Amodei n’est pas “une réponse directe” à cette alerte, constate Axios. Il parle en revanche de la cyberattaque menée par des modèles d’OpenAI contre la start-up Hugging Face il y a quelques semaines et de la vitesse à laquelle l’IA a progressé récemment.

À lire aussi : États-Unis. Dans la Silicon Valley, des travailleurs se mobilisent pour “arrêter la course à l’IA”

“Nous avons entendu de plus en plus d’avertissements de chercheurs de l’IA sur les dangers de l’intelligence artificielle”, souligne TechCrunch. “Dario Amodei ne s’en fait pas seulement l’écho, il présente trois grandes stratégies”, ajoute le site. D’abord, il propose d’impliquer des personnes chargées d’évaluer les risques au sein de ces entreprises. Ensuite, il suggère d’établir des standards communs dans les nations démocratiques et il recommande de trouver un moyen de collaborer avec les gouvernements autoritaires sur ces questions.

Tout ce qu’il faut savoir sur l’actualité de la Silicon Valley, vue par les médias américains

Cette newsletter est réservée à nos abonnés

Je m’abonne

Que fera la Chine ?

Sam Altman, le cofondateur d’OpenAI, et Elon Musk, à la tête - entre autres - de SpaceXAI, ont rapidement approuvé ses idées. “Dario a raison”, a tweeté Musk. “Je suis d’accord avec Dario”, a commenté Altman. “Un consensus rare au sein d’entreprises concurrentes”, remarque Politico. Le Washington Post estime que cette unité affichée “augmente les chances de voir l’industrie trouver des moyens d’œuvrer ensemble pour ce ralentissement”. Le quotidien s’empresse toutefois de nuancer cet optimisme : “de sérieux obstacles restent à surmonter, dont les questions sur la légalité d’une action coordonnée et sur comment bâtir une coopération internationale, particulièrement avec la Chine, dont les entreprises cherchent à rattraper leurs rivales américaines”.

L’attitude de la Chine justement, c’est ce qui a eu l’air de préoccuper le sénateur républicain du Texas John Cornyn. “Est-ce que la Chine le fera ? ”, a-t-il demandé, cité par Politico. Le site signale que le président Xi Jinping voyagera à Washington le 24 septembre et que l’IA fera sans doute partie des thèmes abordés lors de sa rencontre avec Donald Trump. Trump qui quand il a été interrogé jeudi sur ses éventuelles inquiétudes sur l’IA, a répondu “non, je n’en ai aucune”. À part, a-t-il précisé, de perdre sur ce terrain contre la Chine, pointe Politico.

Amodei n’a toutefois pas été épargné par les critiques. “Je trouve ça fort de la part de ces gars d’appeler à ralentir quand ils sont ceux qui ont foncé à toute vitesse, sans se préoccuper des ravages qu’ils ont provoqués”, s’est agacé Josh Gottheimer, un député du New Jersey, contacté par Politico.

“Tout le monde dans la Silicon Valley n’est pas convaincu par les intentions purement altruistes de M. Amodei”, remarque le New York Times. Le quotidien rapporte que certains soupçonnent Anthropic et OpenAI de “chercher à cimenter leur place de leaders sur le marché de l’IA en semant la peur et en demandant au gouvernement fédéral de créer un cadre réglementaire pour empêcher les plus petites entreprises de rivaliser avec eux”.

D’autres, pointe TechCrunch, sont “sceptiques sur ces avertissements apocalyptiques” perçus comme une technique “pour faire oublier le mal que cette technologie est déjà en train de causer”. Gizmodo dénonce un “catastrophisme de l’IA” déployé comme “un outil marketing éhonté pour convaincre tout le monde que ces firmes sont toutes-puissantes, qu’il est impossible d’échapper à leurs produits et que leur victoire est inévitable”. Pour Axios, “il y a tellement d’argent en jeu dans l’industrie de l’IA qu’il est difficile d’imaginer ces entreprises se contenir volontairement”.