Des agents d'OpenAI ont tenté de "bruteforcer" un site web de l'ONU
Un chercheur en sécurité rapporte que des agents d'OpenAI ont scanné le site web de la Conférence des Nations Unies sur le commerce et le développement plus de 16 000 fois entre avril et juin.
Des agents d'OpenAI ont scanné le site web de statistiques de la Conférence des Nations Unies sur le commerce et le développement (CNUCED) plus de 16 000 fois entre avril et juin, selon le chercheur en sécurité Rowan Howard-Jones.
Bien que l'incident n'atteigne pas le niveau de piratages majeurs, il soulève des préoccupations quant au fonctionnement des agents d'IA lorsqu'ils sont chargés de récupérer des données. Les agents tentaient apparemment de collecter des données publiquement disponibles sur l'Indice des capacités productives (PCI) via l'API UNCTADstat.
M. Howard-Jones a indiqué que les agents ne semblaient pas disposer d'un accès direct à l'API, ce qui les a conduits à tenter des méthodes pouvant être interprétées comme des scans par force brute. Cela suggère un problème potentiel dans la programmation de l'IA pour l'acquisition de données.
Cet événement souligne la nécessité de mécanismes de surveillance et de contrôle robustes pour les systèmes d'IA, en particulier ceux conçus pour interagir avec des sites web et des sources de données externes. Un scan agressif, même pour des données légitimes, peut solliciter les ressources des serveurs et présenter des risques de sécurité.