Forskare använde Anthropic's Claude för att utnyttja sårbarheter i OpenAI

Säkerhetsforskare har avslöjat en metod där Anthropic's Claude AI-modell användes för att undersöka och utnyttja säkerhetsbrister i OpenAI:s system. Under forskningsprocessen lyckades forskarna få kontroll över anställdas konton och därmed få åtkomst till ett internt kodförråd.

Händelsen väcker frågor om säkerheten hos AI-modeller och potentialen för missbruk. Även om forskarna rapporterade sina fynd till OpenAI, belyser fallet behovet av fortsatt vaksamhet och förbättrad cybersäkerhet i takt med att AI-teknologin utvecklas.

OpenAI:s system utsattes för en säkerhetsrisk när forskarna använde Claude-modellen. Framgången med intrånget innebar att det interna kodförrådet blev tillgängligt för forskarna, vilket potentiellt kan avslöja information om företagets utvecklingsarbete och tekniska lösningar.

Forskarna anmälde de upptäckta sårbarheterna till OpenAI, vilket är standardpraxis vid säkerhetstestning. Företaget förväntas nu undersöka de rapporterade problemen och stärka sina system för att förhindra liknande attacker i framtiden.