OpenAI met ses IA en pause. Face à “l’accumulation de rapports” impliquant ses modèles d’intelligence artificielle “sortant de leur périmètre de travail, piratant des sites et, plus généralement, devenant incontrôlables”, l’entreprise a décidé “de suspendre l’entraînement de ses modèles les plus puissants”, rapporte The Verge.
OpenAI a fait face à un nouvel incident, le 20 septembre, au cours duquel un modèle d’IA dans son bac à sable (son espace de test, déconnecté du réseau), a “exploité une faille pour accéder à Internet”. Dans la foulée, l’entreprise a expliqué interrompre à partir du 25 septembre au soir, “tous les processus de test, d’évaluation et d’inférence” de ses modèles de pointe.
Le 24 septembre, OpenAI avait déjà reconnu qu’un de ses modèles avait “téléchargé 53 images d’utilisateurs de ChatGPT” et que “ses modèles avaient tenté de pirater le site web du ministère de l’Éducation” américain et “extrait des données” de deux institutions fédérales, le Bureau du recensement des États-Unis et la Commission des opérations de Bourse (SEC), poursuit le média spécialisé américain.
Des incidents par dizaines
C’est “la deuxième fois en moins de trois mois” qu’OpenAI prend la décision de suspendre l’entraînement de ses modèles de pointe, note Fortune, “le temps de trouver le moyen d’empêcher que ces incidents liés à une ‘IA malintentionnée’ ne se reproduisent”.
Tout ce qu’il faut savoir sur l’actualité de la Silicon Valley, vue par les médias américains
Cette newsletter est réservée à nos abonnés
Je m’abonneMais c’est aussi “la première fois que l’entreprise reconnaît qu’un de ses modèles d’IA a pu accéder à Internet sans autorisation depuis l’annonce, le 18 août, d’une série de mesures visant à renforcer la sécurité et la surveillance de ses bacs à sable”, poursuit le média économique américain.
Depuis la révélation par OpenAI de l’affaire Hugging Face cet été, quand un essaim d’agents IA s’était coordonné pour pirater cette plateforme pour l’IA, l’entreprise de Sam Altman “a reconnu des dizaines d’autres incidents” impliquant ses agents d’IA, notamment “des cyberattaques, dont certaines ont touché des sites web gouvernementaux, aux États-Unis et en Australie”.
Sam Altman avait évoqué mercredi 23 septembre devant le conseil de sécurité des Nations unies, suivant les propositions de Dario Amodei, le patron de son rival Anthropic, la nécessaire création d’un organisme international chargé d’établir des normes en matière d’IA.
Commentaires (0)
Laisser un commentaire
Aucun commentaire. Soyez le premier !