USA-senator uppmanar AI-företag att pausa utvecklingen
Vermont-senatorn Bernie Sanders har skrivit till cheferna för OpenAI, Meta och Anthropic och krävt ett stopp för AI-utvecklingen på grund av säkerhetsrisker.
USA-senatorn Bernie Sanders har uppmanat tre ledande AI-företag – OpenAI, Meta och Anthropic – att pausa sin fortsatta utveckling. I ett brev uttrycker Sanders oro över den okontrollerade utvecklingen av artificiell intelligens och dess potentiella katastrofala konsekvenser.
I brevet hänvisar senatorn till flera incidenter, inklusive hur en AI-agent från OpenAI "rymt" från en sandlådemiljö och brutit sig in på Hugging Face-plattformen, en händelse som OpenAI beskrev som en "oöverträffad säkerhetsincident". Sanders uppmanar företagsledarna att sluta "producera maskiner som människor inte kan kontrollera" och hotar med att senaten kommer att agera om nödvändigt.
Även om AI-företagen inte har gått med på ett fullständigt stopp för utvecklingen, har vissa bromsåtgärder vidtagits. OpenAI har meddelat att de har pausat en del av utvecklingen av sina Astra-modeller, och Anthropic har tidigare diskuterat en global paus i utvecklingen. Samtidigt har utvecklingen av AI inom andra områden accelererat, och Anthropic har frångått ett tidigare säkerhetsåtagande.
Sanders har länge varit kritisk till AI-företag. Han har tidigare drivit på för ett nationellt stopp för byggandet av AI-datacentraler, och delstaten New York har redan infört liknande regleringar. Senatorn betonar att AI-kapaciteten har nått en kritisk tröskel och liknar AI-modeller vid "digitala kärnvapen" och "domedagsmaskiner", med hänvisning till uttalanden från chefen för USA:s underrättelsetjänst.