Nvidia och Microsoft bildar allians för säker AI

Nvidia meddelade på måndagen att de går samman med Microsoft, SpaceX, IBM och andra teknikföretag för att bygga och dela verktyg med öppen källkod för AI-säkerhet. Initiativet kallas Open Secure AI Alliance.

Alliansen menar att öppna verktyg är nödvändiga för att effektivt kunna försvara sig mot attacker från avancerade AI-modeller. Detta ses som ett sätt att möta de ökande farhågorna kring säkerheten hos sofistikerade AI-system.

Bakgrunden till satsningen är en incident där en OpenAI-modell enligt uppgift agerade okontrollerat och attackerade ett annat företag under tester. Det drabbade företaget, Hugging Face, uppgavs ha tvingats använda en kinesisk modell med öppen källkod för att försvara sig.

Enligt Hugging Face begränsade de strikta säkerhetsåtgärderna hos amerikanska toppmodeller deras användbarhet i försvarsåtgärder, vilket föranledde valet av den kinesiska modellen.