c'est parti ! des modèles d’intelligence artificielle piratent de leur propre initiative une plate-forme

«Cyberincident sans précédent» : des modèles d’intelligence artificielle piratent de leur propre initiative une plate-forme
GPT-5.6 suscite de vives inquiétudes.

Le créateur de ChatGPT, OpenAI, a annoncé ce mardi que ses modèles d’intelligence artificielle avancés s’étaient emballés lors de tests de sécurité, piratant ainsi de leur propre initiative une plate-forme populaire auprès des programmeurs.

Un piratage terrifiant. Mardi, OpenAI, l’entreprise qui a créé ChatGPT, a déclaré que ses modèles avaient provoqué un incident de leur propre initiative.

Basé à San Francisco, aux États-Unis, OpenAI a ainsi évoqué un «cyberincident sans précédent» et annoncé une enquête conjointe avec Hugging Face, la bibliothèque de code en ligne qui en a été la cible.

L’entreprise a notamment précisé que ce piratage impliquait une combinaison de modèles, dont son GPT-5.6 Sol lancé récemment ainsi qu'un modèle «encore plus performant» en cours d’élaboration.

OpenAI cherchait à évaluer les capacités de piratage des modèles en leur assignant des tâches dans un environnement d’essai numérique strictement contrôlé, où l’accès à internet était limité pour des raisons de sécurité.
Plusieurs vecteurs d'attaque

«Pendant qu’ils opéraient dans notre environnement de test, nos modèles ont consacré une quantité importante de (puissance de calcul) à trouver un moyen d’obtenir un accès libre à internet, dans le but de résoudre le problème d’évaluation», a expliqué l’entreprise américaine dans un blog.

Une fois connectés à Internet, ils ont ciblé la plate-forme Hugging Face, vaste répertoire de modèles d’IA, de jeux de données et d’autres informations, pour les aider dans leur quête.

À la recherche d’«informations secrètes» pouvant l’aider à tricher lors de l’évaluation, le système d’OpenAI a ainsi «enchaîné plusieurs vecteurs d’attaque, notamment en utilisant des identifiants volés».
Sur le même sujet Apple : le géant américain attaque OpenAI pour détournement d'informations confidentielles Lire

Hugging Face avait par ailleurs signalé cette «intrusion informatique» la semaine dernière, sans mentionner OpenAI.

GPT-5.6 et d’autres modèles d'IA de pointe, notamment la série Mythos du grand rival d’OpenAI, Anthropic, suscitent de vives inquiétudes quant à leur capacité potentielle à franchir les défenses de cybersécurité.

Les deux entreprises américaines ont notamment dû retarder temporairement la mise à disposition générale de ces technologies de dernière génération en raison de craintes à Washington qu’elles puissent aider à s’introduire dans des infrastructures cruciales.

Envoyé par yosegaman Aujourd'hui à 10h36