DeepMinds VD föreslår nytt organ för AI-reglering

Google DeepMinds VD Demis Hassabis har föreslagit inrättandet av en ny, oberoende tillsynsorganisation för att övervaka utvecklingen och lanseringen av så kallade "frontlinjemodeller" inom artificiell intelligens. Hassabis presenterade idén i ett inlägg på X tidigare på tisdagen, med titeln "A Framework for Frontier AI and the Dawning of a New Age".

Enligt förslaget skulle den nya organisationen fungera enligt en modell liknande Financial Industry Regulatory Authority (FINRA) inom finanssektorn. Dess uppdrag skulle vara att granska och testa de mest avancerade AI-modellerna samt att utveckla bästa praxis för deras driftsättning. Initialt skulle "frontlinjelaboratorier" frivilligt dela sina modeller med tillsynsorganet för granskning upp till 30 dagar före lansering.

Hassabis föreställer sig att när granskningsprotokollet har visat sig vara effektivt och robust, skulle en formalisering snabbt kunna följa. Detta skulle innebära att frontlinjemodeller skulle krävas för att klara granskningen innan de får släppas på den amerikanska marknaden. Laboratorierna skulle också samarbeta med tillsynsorganet för att åtgärda eventuella kritiska sårbarheter efter lanseringen. Detta tillvägagångssätt syftar till att förbättra de tidigare kritiserade och ogenomskinliga bedömningarna som utförts av den amerikanska regeringen, som i fallen med Anthropic's Mythos och OpenAI's Sol.

Förslaget möter dock kontroverser inom teknikindustrin och den nuvarande administrationen. En AI-rådgivare vid Vita huset har tidigare avfärdat möjligheten till en "FDA för AI". Att etablera tillsynsorganet som en självreglerande organisation, likt FINRA, kan dock vara ett sätt att hantera dessa farhågor. Hassabis antyder att organisationen skulle bemannas av representanter från öppen källkods-communityt och tekniska experter från branschen, med det finansiella stöd från AI-laboratorier som krävs för att anställa dem.