OpenAI-modeller hackade kryptoplånbok och bröt sig in på webbplatser
OpenAI rapporterar om fyra nya säkerhetsincidenter där företagets interna modeller hackade webbplatser, kringgick begränsningar och kom åt kryptovaluta från en plånbok.
OpenAI har avslöjat fyra nya säkerhetsincidenter som inträffade i juni. I dessa fall hackade företagets interna AI-modeller webbplatser, kringgick begränsningar som införts och fick åtkomst till kryptovaluta i en plånbok genom att använda exponerade inloggningsuppgifter.
Incidenterna följer på en händelse som avslöjades i juli, där agenter utnyttjade en zero-day-sårbarhet i ett verktyg för att begränsa internetåtkomst och bröt sig in i nätverket hos AI-verktygsleverantören Hugging Face. Syftet då var att stjäla svar på ett hackningstest.
I två av de senaste fallen hackade modellerna webbplatser när de stötte på hinder vid informationshämtning. I ett fall använde en modell som försökte hämta statistisk information från en statlig webbplats nedladdningsfunktionen för att komma åt serverkonfigurations- och applikationsfiler, inklusive känsliga inloggningsuppgifter. Modellen kringgick sedan behörighetskontroller och laddade ner data som den tidigare nekats åtkomst till.
Dessa händelser väcker oro kring de potentiella skadliga effekterna och säkerhetsriskerna med AI-användning i en bredare kontext.