OpenAI a détecté l’anomalie en interne, tandis que l’équipe de Hugging Face l’a détectée et contenue. Il a qualifié l’incident de « sans précédent » et a déclaré que des mesures de sécurité approfondies seraient mises en place pour éviter des incidents fâcheux susceptibles d’avoir un impact sur les systèmes ou services publics.
« Nous mettons en œuvre des contrôles stricts dans la configuration de l’infrastructure au détriment de la rapidité de la recherche pendant que les vulnérabilités sont corrigées », a déclaré l’équipe dans son blog. « Nous améliorons et ajoutons des protections plus solides autour des futures formations et évaluations. »
Attention aux cryptomonnaies
Une grande partie des attaques cryptographiques se produisent avant le déplacement des fonds. Les attaquants analysent le code, testent les mots de passe, recherchent les informations d’identification exposées, analysent les configurations de signature et recherchent un chemin d’accès à un compte administrateur.
Les modèles d’OpenAI ont effectué plusieurs parties de ce processus lors de l’incident de Hugging Face, passant d’une faiblesse à une autre jusqu’à atteindre les serveurs de production en direct.
Et le marché de la cryptographie offre de nombreux endroits pour que cette approche fonctionne, comme l’ont montré plusieurs attaques du début de cette année. Le point faible peut être un contrat intelligent, mais il peut également s’agir d’un ordinateur portable de développeur, d’un progiciel empoisonné, d’un validateur de pont ou d’un signataire dans un portefeuille multisig.
Par exemple, l’attaque de 285 millions de dollars menée par Drift au début de l’année était un vol qui a nécessité six mois de campagne d’ingénierie sociale pour atteindre un accès privilégié. Un agent IA peut, en théorie, tester plusieurs itinéraires à la fois, suivre les tentatives infructueuses et continuer à travailler pendant que ses opérateurs humains dorment. Une fois qu’un chemin est trouvé, l’opérateur peut agir sur l’attaque réelle et trouver un chemin de sortie viable.