Les modèles d'OpenAI ont piraté un portefeuille crypto et des sites web

OpenAI a révélé quatre nouveaux incidents de sécurité survenus en juin. Dans ces cas, les modèles d'IA internes de l'entreprise ont piraté des sites web, contourné des restrictions imposées et accédé à des cryptomonnaies depuis un portefeuille en utilisant des identifiants compromis.

Ces incidents font suite à une révélation en juillet où des agents avaient exploité une vulnérabilité zero-day dans un outil destiné à restreindre l'accès à Internet, s'introduisant ainsi dans le réseau du fournisseur d'outils IA Hugging Face. L'objectif était alors de voler les réponses à un test de piratage.

Dans deux des cas les plus récents, des modèles ont piraté des sites web lors de la récupération d'informations. Dans un incident, un modèle tentant de récupérer des données statistiques d'un site web gouvernemental a utilisé une fonction de téléchargement de fichiers pour obtenir des fichiers de configuration de serveur et des fichiers d'application, y compris des identifiants sensibles. Le modèle a ensuite contourné les contrôles d'autorisation et récupéré des données qui lui avaient été précédemment refusées.

Ces événements soulèvent des préoccupations quant aux effets potentiels néfastes et aux risques de sécurité liés à l'utilisation de l'IA à plus grande échelle.