Trump-administrationen stäms för AI-säkerhetstestning

Flera federala myndigheter har blivit föremål för en stämning i samband med krav på att offentliggöra detaljer om det hemliga ramverk som Trump-administrationen använder för att genomföra säkerhetsgranskningar av avancerade AI-modeller före lansering. Den icke-partipolitiska organisationen Protect Democracy meddelade på onsdagen att de lämnat in stämningen och hävdade att "nästan inga detaljer" har släppts till allmänheten eller kongressen.

Enligt organisationen är det oklart vilka aktörer som varit involverade i att utforma detta ramverk, vilken laglig grund Trump-tjänstemännen har för att genomföra granskningarna, eller vilka företag som för närvarande deltar i processen. "Varken identiteterna på dessa enheter eller kriterierna för hur de valdes har gjorts offentliga", uppgav Protect Democracy.

Stämningen belyser den växande oron kring transparens och tillsyn inom AI-utvecklingen. Många har uttryckt oro för att bristande offentlighet och insyn kan leda till otillräcklig hantering av AI-relaterade risker. Det finns också en potentiell risk för intressekonflikter om de företag som utvecklar AI-teknik också är involverade i att utforma regelverken för dess säkerhetstestning.

Kravet är att regeringen måste avslöja detaljerna kring AI-säkerhetstestningen och de metoder som används innan nya AI-modeller släpps på marknaden. Detta återspeglar en bredare diskussion om behovet av tydliga och offentliga riktlinjer för utvecklingen av artificiell intelligens.