Google DeepMind-grundare vill ha övervakare för AI

Demis Hassabis, en av grundarna till Google DeepMind, har föreslagit skapandet av en ny amerikansk tillsynsmyndighet för att hantera säkerhetsfrågor kring avancerade AI-modeller.

Enligt Hassabis kan den föreslagna organisationen, som skulle finansieras av branschen och övervakas federalt, börja verka före utgången av 2026. Dess uppgift blir att genomföra tester på de mest avancerade AI-modellerna innan de lanseras för att identifiera och potentiellt förhindra att osäkra modeller når den amerikanska marknaden.

Förslaget, som publicerades på Substack, syftar till att ersätta reaktiva statliga insatser med en mer proaktiv och tydlig regelverk. Hassabis jämför den tänkta organisationen med Financial Industry Regulatory Authority (FINRA), den självreglerande organisationen för Wall Street.

Initialt skulle AI-utvecklare kunna skicka in sina modeller frivilligt för granskning upp till 30 dagar före lansering. Testerna skulle fokusera på AI-modellers potential att möjliggöra cyberattacker, biologiska hot eller vilseledande beteenden. I framtiden kan granskningen bli obligatorisk för modeller som passerar en viss "frontlinje"-tröskel, inklusive utländska och öppen källkods-system som förs in på den amerikanska marknaden.

"Vi tror att standardiseringsorganet kan börja som en branschledd, frivillig organisation, som i framtiden formaliseras genom lagstiftning eller verkställande order", sade Owen Larter, Googles seniora direktör för frontier AI-policy och globala frågor.