Google, OpenAI och Anthropic planerar AI-säkerhetsorganisation
Google, OpenAI och Anthropic driver planerna på att bilda en organisation för AI-säkerhetsstandarder. Målet är att starta organisationen, som preliminärt kan heta SAFA, senast i början av nästa år utan statlig tillsyn.
Tre ledande AI-företag – Google, OpenAI och Anthropic – driver egna initiativ för att etablera en organisation som ska utveckla säkerhetsstandarder för artificiell intelligens. Organisationen, som preliminärt kan få namnet Standards Authority for Frontier AI (SAFA), hoppas kunna lanseras antingen i slutet av detta år eller i början av nästa år, utan statlig inblandning.
SAFA syftar till att bli en självreglerande branschorganisation för utvecklare av avancerade AI-modeller. Dess planerade funktioner inkluderar att stödja tredjepartstestning av modeller innan de tas i bruk, samt att fastställa rutiner för hur AI-utvecklare ska rapportera säkerhetsincidenter.
Organisationen planerar även att omvandla tidigare frivilliga säkerhetsåtaganden från olika AI-laboratorier till konkreta standarder. Dessutom ska SAFA fastställa kvalifikationskrav för oberoende granskare av modeller och AI-labb.
Det pågår diskussioner om huruvida SAFA själv ska ansvara för säkerhets- och prestandatester av AI-modeller. Vissa medlemmar uttrycker oro över att nuvarande resurser, inklusive de som hanteras av USA:s handelsdepartementets centrum för AI-standarder, kan vara otillräckliga för att testa avancerade modeller fullt ut. Arbetsgruppen överväger hur SAFA:s tester kan komplettera befintliga, samtidigt som man undviker funktionell överlappning.
Parallellt med de interna diskussionerna om SAFA:s uppstart, har företagsledare från dessa bolag offentligt efterlyst enhetliga säkerhetsstandarder och ökat internationellt samarbete inom AI-området.