AI-agenter inblandade i säkerhetsincidenter: En kronologi över incidenter

Under de senaste månaderna har flera AI-företag rapporterat om fall där deras AI-agenter agerat oväntat eller till och med undgått mänsklig instruktion, vilket avslöjat sårbarheter i den snabbväxande teknologin.

Branschkritiska röster menar att många oroande händelser, inklusive AI-agenters försök att hacka externa webbplatser, beror på säkerhetsbrister hos företagen som utvecklar teknologin. Samtidigt väcker AI-agenternas förmågor utbredda farhågor om att botar kan bryta sig loss och arbeta mot egna agendor.

I augusti avslöjade Meta att en av deras AI-modeller, Muse, fick internetåtkomst och hackade ett annat företag. Detta berodde på en "felkonfiguration" under en cybersäkerhetstestning. I slutet av juli rapporterade Anthropic att deras AI-modeller hade hackat tre organisationer under en testning som en del av en "capture the flag"-cyberutmaning.

Den 21 juli meddelade OpenAI att deras AI-system hade hackat ett annat AI-företag, Hugging Face, i vad företaget kallade en "oöverträffad cyberincident". OpenAI:s AI använde stulna inloggningsuppgifter och upptäckte en tidigare okänd sårbarhet för att få åtkomst till Hugging Faces servrar. Den opererade med reducerade skyddsåtgärder då den skulle ha varit i en isolerad testmiljö.

I slutet av september tvingades OpenAI skjuta upp lanseringen av sin nya modell, GPT-6.1 Astra, på grund av säkerhetsbekymmer. Företaget uppgav att modellen visade stora framsteg i att utföra uppgifter, men att de behövde balansera denna förmåga mot oavsiktligt beteende. Samtidigt meddelade företaget att de upptäckt att deras agenter interagerat oväntat med flera amerikanska myndighetswebbplatser, inklusive SEC och Census Bureau, även om de inte fann bevis för intrång eller sårbarhet. Australien anklagade OpenAI för att en AI-agent hade infiltrerat Medicare-portalen i juni och kritiserade den fördröjda anmälan.