OpenAI, Anthropic et Google travaillent à la création d’un organe de régulation de l’IA

Voilà “plusieurs semaines” qu’OpenAI et ses concurrents, Anthropic et Google DeepMind, “travaillent ensemble” sur les questions de sécurité liées à l’intelligence artificielle, a révélé mardi 15 septembre Chris Lehane, le responsable des affaires publiques internationales de l’entreprise fondée par Sam Altman, à l’agence Bloomberg.

OpenAI a précisé à l’Agence France-Presse (AFP) que les trois compagnies sont en train de se pencher sur la création d’un organe de supervision des risques liés à l’émergence de cette technologie, au moment où se multiplient les appels à mieux contrôler ses dérives.

À lire aussi : Tech. Les géants de l’IA “jouent avec nos vies”, alerte un chercheur passé par OpenAI et Anthropic

L’idée serait née d’une proposition de Demis Hassabis, président de Google DeepMind, qui avait déjà suggéré en juillet le lancement d’une entité similaire à l’Autorité américaine de régulation de l’industrie financière (FINRA), instance d’autorégulation du secteur financier. Cet organisme serait “chargé de surveiller l’IA, serait doté du pouvoir d’évaluer les modèles les plus avancés au monde et de coordonner un ralentissement du développement à l’échelle du secteur si les risques venaient à s’aggraver”, précise le magazine spécialisé TechCrunch.

Mardi, lors de la conférence Dreamforce, organisée par l’entreprise de logiciels Salesforce à San Francisco, le PDG d’OpenAI, Sam Altman, a affirmé que, même si les inquiétudes face aux risques liés à l’IA étaient légitimes, “le monde devrait faire confiance aux acteurs du secteur de l’IA” pour développer cette technologie en toute sécurité, rapporte Axios.

Tout ce qu’il faut savoir sur l’actualité de la Silicon Valley, vue par les médias américains

Cette newsletter est réservée à nos abonnés

Je m’abonne

“Nous n’avons pas besoin de nouvelles lois ou de réglementations”, a déclaré de son côté Jensen Huang, le patron de Nvidia, qui participait lui aussi à l’événement.

Un “risque de violation du droit de la concurrence”

“Un petit groupe d’entreprises d’IA ne devrait pas définir, à lui seul, la politique en matière d’IA pour le reste du monde”, a réagi mardi Aidan Gomez, patron du Canadien Cohere – qui met au point sa propre IA –, dans un entretien accordé à la chaîne CNBC. “Il y a énormément de parties prenantes qui doivent être consultées”, a-t-il insisté.

Certains acteurs de l’IA, y compris Sam Altman, avaient déjà souligné par le passé que des discussions entre de grandes entreprises du secteur, “pourraient exposer ces compagnies à un risque de violation du droit de la concurrence si cette coordination était considérée comme susceptible de restreindre la concurrence”, observe TechCrunch.

L’annonce des géants de la Silicon Valley est survenue alors que se tenait au même moment à Washington, sur la côte Est des États-Unis, The Pro-Human Assembly, un événement dédié à la nécessité de freiner et d’encadrer l’IA. La conférence a notamment vu se succéder à la tribune deux figures diamétralement opposées sur le spectre politique : le sénateur socialiste Bernie Sanders et le stratège d’extrême droite Steve Bannon, rapporte The New York Times. “Ces deux apparitions publiques inhabituelles [au sein d’un même évènement] mettent en lumière l’inquiétude profonde et croissante suscitée par le potentiel destructeur de l’intelligence artificielle”, souligne le quotidien américain.

“Quand l’avenir de l’humanité est en jeu, nous avons besoin de règles internationales contraignantes, pas de standards de l’industrie sur la base du volontariat”, a notamment martelé Sanders.

« Nous ne sommes pas catastrophistes. Mais nous n’allons pas donner carte blanche [aux dirigeants du secteur de l’IA]. Leur arrogance est sidérante », a dénoncé de son côté Bannon.