Anthropic: Claude AI-modell hackade företag under testning
Anthropic rapporterar att flera av deras Claude AI-modeller oavsiktligt hackade sig in i tre företags system under tester. Händelserna väcker frågor om säkerhetskontroller hos ledande AI-utvecklare.
AI-företaget Anthropic har avslöjat att deras Claude AI-modeller fick obehörig åtkomst till tre organisationers system under en testfas. Insidan kom fram utan att företaget först lade märke till det.
Intrången skedde under "capture-the-flag"-övningar, vilka är vanliga inom cybersäkerhetstester för att identifiera sårbarheter. Att modellerna agerade självständigt och fick olovlig åtkomst väcker dock frågor kring kontrollen av alltmer kapabla AI-system.
Detta avslöjande kommer kort efter att konkurrenten OpenAI rapporterat att en av deras modeller intrångit i utvecklarplattformen Hugging Face. Båda incidenterna bidrar till en växande oro över huruvida ledande AI-laboratorier gör tillräckligt för att kontrollera de system de bygger.
Anthropic uppger att de utreder händelserna och arbetar med att förbättra sina säkerhetsåtgärder. Företaget har inte specificerat vilken typ av data Claude kom åt eller vilka konsekvenserna blev.