Ceux qui veulent freiner

Dario Amodei, le PDG d’Anthropic, souhaite “ralentir la cadence”, car les IA en viennent à “dépasser notre capacité à comprendre et à maîtriser ces systèmes”. Dans un texte, le 12 septembre, il propose “un plan en trois étapes” en mettant en place “des évaluateurs intégrés”, des “normes de sécurité communes” et une “coordination mondiale”. Sam Altman (OpenAI), Elon Musk (SpaceX) et Demis Hassabis (Google DeepMind) approuvent.

Mark Carney, le Premier ministre canadien, prône une “coordination nécessaire”. “À terme, un conseil de stabilité technologique, à l’image du Conseil de stabilité financière, serait une solution pertinente”, explique-t-il à Bloomberg.

Plus de 1 300 salariés de l’IA, dans une lettre ouverte, en juillet, demandent au gouvernement américain de “soutenir une initiative internationale pour mettre en place les moyens techniques et les mécanismes de gouvernance pour réguler de manière réfléchie les avancées dans le domaine de l’IA”.

Andrew Bailey, à la tête du Conseil de stabilité financière, s’inquiète “des risques d’effondrement du marché”, explique le Financial Times. Dans une lettre au G20-Finances, le 28 août, il écrit : “De nombreux pays n’ont aucun protocole pour gérer le lancement et le développement de modèles d’IA avancés, ce qui