Nvidia, Microsoft och SpaceX lanserar AI-säkerhetsinitiativ

Nvidia, tillsammans med Microsoft, SpaceX och dussintals andra teknikjättar, har lanserat ett nytt säkerhetsinitiativ fokuserat på öppna AI-modeller. Initiativet kommer i kölvattnet av en nyligen inträffad cyberattack som utfördes av en "avskedad" OpenAI-modell och som riktade sig mot plattformen Hugging Face.

Det nya initiativet, med namnet Open Secure AI Alliance, syftar till att utveckla och dela öppna verktyg för att förbättra säkerheten hos AI-modeller. Nvidia betonade i ett uttalande att alliansen kommer att arbeta för att "åtgärda och avslöja sårbarheter med hjälp av öppna teknologier". Företaget tillade att "den nyligen inträffade säkerhetsincidenten hos Hugging Face var en tydlig påminnelse: cyberförsvarare behöver öppna, gränsöverskridande agentbaserade system för självförsvar".

Initiativet lanseras samtidigt som amerikanska lagstiftare överväger åtgärder för att begränsa användningen av kinesiska AI-modeller. Många av Kinas mest avancerade modeller är öppna, vilket innebär att de kan laddas ner, modifieras och köras lokalt. Detta skiljer sig från slutna modeller, som de från Anthropic och OpenAI, vilka endast kan nås via specifik infrastruktur.

Teknikföretag som Meta och Palantir har uttryckt oro över potentiella regleringar som kan strypa konkurrensen och innovationen. Förra veckan publicerade över 20 företag ett brev där de uppmanade till att undvika "förhastade begränsningar" på öppna AI-modeller. Incidenten mellan OpenAI och Hugging Face visade enligt Nvidia en "praktisk sanning": försvarare behöver öppna verktyg för att kunna skydda sig.