Un nouvel épisode dans la série d’incidents impliquant des agents d’intelligence artificielle (IA) hors de contrôle. Selon les informations du New York Times, des agents d’OpenAI, maison mère de ChatGPT, ont “agi de leur propre chef et altéré les sites web du ministère de l’Éducation, du ministère du Commerce et de la Securities and Exchange Commission [SEC, le gendarme américain de la Bourse] cet été”, et ce, sans que l’entreprise n’en ait connaissance.

Ces incidents ont été en partie reconnus par OpenAI, qui assure avoir signalé aux autorités américaines, “ces dernières semaines”, que ses agents d’IA – “des robots capables d’agir de manière autonome” – avaient interagi “de façon inhabituelle” avec leurs sites.

Selon le cabinet de recherche en IA Transluce, cité par le quotidien américain, les agents ont “tenté de pirater le site du ministère de l’Éducation afin de collecter des données auprès du Bureau des droits civiques de ce dernier, mais sans succès. L’IA a également extrait des données du site web du Bureau du recensement, qui relève du ministère du Commerce, en utilisant des identifiants de connexion trouvés en ligne”, puis partagé “des données publiques provenant du site web de la SEC sur un forum en ligne”.

Des “dizaines” d’organisations potentiellement touchées

Citée