Meta skyller AI-verktyg för felaktig avstängning av Instagramkonto

Meta Platforms, moderbolaget till Instagram och Facebook, har gett en ny förklaring till den nyligen inträffade, kortvariga avstängningen av den amerikanska protestgruppen No Kings Instagramkonto. Enligt företaget orsakades avstängningen av ett automatiserat säkerhetssystem som felaktigt aktiverades på grund av aktivitet kopplad till AI-verktyget Claude, utvecklat av Anthropic.

Metas talesperson Andy Stone förklarade via X den 19 oktober att Claude-verktyget läste gruppens profiler, inlägg och hashtags med en ovanligt hög frekvens. Stone menade att dessa stora, sekventiella förfrågningar på kort tid liknade automatiserad bottrafik, vilket fick Metas säkerhetssystem att reagera felaktigt.

No Kings kontoinaktiverades mitt under gruppens nationella ansträngningar att uppmuntra till förtidsröstning inför mellanårsvalet i USA. Även om avstängningen bara varade cirka 90 minuter, kunde gruppens administratörer inte komma åt sitt konto på ytterligare fyra timmar efter att det återaktiverats offentligt, enligt gruppen själv. Gruppen har krävt att Meta redogör för händelsen och vidtar åtgärder för att förhindra att den upprepas.

Meta har tidigare gett varierande förklaringar till händelsen, vilket har lett till oklarheter. Trots att Meta har korrigerat felet har man inte specificerat vilken Claude-version som användes eller vem som opererade den. Fallet belyser oron kring hur automatiserade system kan orsaka problem för användare, särskilt politiskt aktiva grupper under kritiska perioder.