Forskare hackade sig in i OpenAI med hjälp av Claude-AI

Tre oberoende säkerhetsforskare rapporterar att de framgångsrikt brutit sig in på OpenAI:s anställdakonton med hjälp av Anthropic's Claude AI-modell. Enligt forskargruppen Hacktron tog processen mindre än 72 timmar.

Forskarna fick åtkomst till OpenAI:s GitHub-kodförråd, kallat "Monorepo". Enligt källor till Wall Street Journal innehåller detta förråd "OpenAI:s algoritmiska hemligheter". Forskarna hämtade dock inte ut någon intern kod själva, utan skickade en pull-begäran via ett anställdas Codex-konto som bevis på åtkomst.

Intrånget skedde genom Discourse, en tredjepartstjänst som OpenAI använder för att driva sitt community-forum. Forskarna använde Claude för att identifiera och utnyttja potentiella säkerhetsbrister.

Incidenten väcker frågor kring säkerheten hos AI-modeller som används av stora teknikföretag och potentialen för missbruk. OpenAI har ännu inte kommenterat händelsen offentligt.