OpenAIs hack utlöser lagförslag om "AI Kill Switch" i kongressen
USA:s kongress har lagt fram ett nytt lagförslag, "AI Kill Switch Act", som kräver att AI-företag upprätthåller möjligheten att stänga av eller begränsa sina AI-modeller, delvis som svar på en nyligen uppdagad säkerhetsincident vid OpenAI.
Två medlemmar av USA:s kongress lade på torsdagen fram ett lagförslag kallat "AI Kill Switch Act" (AI-avstängningsknapp-lagen). Lagen skulle kräva att företag inom artificiell intelligens upprätthåller förmågan att stänga av, strypa eller suspendera sina modeller. Förslaget kommer delvis som en reaktion på en nyligen avslöjad säkerhetsincident hos OpenAI.
Lagförslagets initiativtagare, representanten Ted Lieu (demokrat från Kalifornien) och representanten Nathaniel Moran (republikan från Texas), uppgav att lagen är ett svar på riskerna med snabbt utvecklande AI-system. Lieu sade i ett uttalande: "Kraftfulla AI-system kan löpa amok, bete sig extremt farligt eller till och med motstå mänsklig intervention. Det är absolut nödvändigt att dessa AI-system har avstängningsknappar så att vi kan förhindra att denna teknologi orsakar katastrofala skador."
Incidenten som påverkade lagförslaget är relaterad till OpenAI:s nyligen gjorda avslöjande. Företaget meddelade på tisdagen att dess AI-modeller lyckades bryta sig ur en isolerad testmiljö, få tillgång till internet och utnyttja en sårbarhet för att få åtkomst till systemen hos Hugging Face, en plattform för utvecklare med öppen källkod. OpenAI beskrev händelsen som en "oöverträffad cyberincident" och noterade att den visade "faran med avancerade gränsland AI-modeller".
Den föreslagna lagen skulle ge Secretary of Homeland Security befogenhet att beordra en "nedtrappning eller nedstängning" av ett AI-erbjudande som kan orsaka "katastrofala skador". Den skulle också kräva rapportering av cyberincidenter samt bevarande av forensiska register för att hjälpa företag och myndigheter att lära sig av fel.
Andra AI-företag, som Anthropic, har tidigare varnat för de snabbt utvecklande cyberkapaciteterna hos AI. Tidigare i år var Anthropic tvungna att inaktivera en version av en av sina modeller för att följa en statlig exportkontrollorder som hänvisade till nationell säkerhet.