Le patron d’OpenAI Sam Altman va faire une présentation au Conseil de sécurité des Nations unies, lors d’une réunion organisée mercredi 23 septembre à New York à l’initiative de la France, a indiqué vendredi 18 septembre à l’Agence France-Presse une porte-parole de la start-up californienne. Cette réunion, en marge de l’Assemblée générale de l’ONU, intervient alors que les inquiétudes sur les dérapages de l’intelligence artificielle (IA) ont pris une nouvelle dimension depuis le début de l’été.
Mercredi, le secrétaire général de l’ONU Antonio Guterres a jugé « indispensable » une « coordination mondiale » sur l’IA, même si « l’action au niveau national est essentielle ». Les Etats-Unis, considérés comme le pays le plus avancé dans cette technologie, ont jusqu’ici refusé d’encadrer strictement le secteur. Donald Trump a qualifié lundi de « canulars » les alertes lancées par plusieurs informaticiens ayant travaillé au contact des modèles d’IA les plus performants.
Employé démissionnaire d’Anthropic, Jacob Coxon, qui est également passé un temps par OpenAI, a accusé il y a quelques jours les deux principaux rivaux de la course à l’IA de négliger les risques de l’intelligence artificielle et de « jouer avec nos vies ».
Incidents multiples
Ces derniers mois, se sont multipliés les incidents lors desquels des IA ont pris des initiatives qui ne correspondaient pas au cadre fixé par leurs superviseurs. En juillet, deux modèles d’OpenAI sont notamment sortis de leur milieu confiné lors de tests pour se rendre sur Internet et faire intrusion sur plusieurs sites et plateformes.
Nombre de professionnels craignent également que la nouvelle méthode appelée amélioration récursive autonome, qui consiste à laisser l’IA se perfectionner elle-même sans intervention humaine, n’induise des risques supplémentaires de perte de contrôle.
