Kongressens AI-plan för "dödningsknapp" har en lucka
Ett lagförslag i USA:s kongress avser att införa en "dödningsknapp" för AI, men experter varnar för att det missar en stor svaghet. Förslaget skulle vara verkningslöst mot så kallade open-weight AI-modeller som kan köras lokalt och modifieras fritt.
USA:s kongress överväger lagstiftning som skulle kräva att AI-företag kan stoppa sina avancerade AI-program omedelbart. Lagförslaget, som syftar till att skapa en mekanism kallad "dödningsknapp", presenterades som svar på oro för att artificiell intelligens kan utvecklas bortom mänsklig kontroll.
Lagförslaget har dock en betydande brist: det tar inte hänsyn till open-weight (öppen källkod) AI-modeller. Dessa modeller kan installeras lokalt, köras på privat hårdvara och modifieras av användare. Följaktligen kan förslaget inte begränsa eller stoppa driften av sådana modeller, även om de hamnar i fel händer.
"Det här är inte en lucka i stängslet. På open-weight-sidan finns det inget stängsel alls", säger Rob T. Lee, chef för AI och forskning vid SANS Institute, till Fast Company. Han konstaterar att modeller som anpassats för skadliga syften, med borttagna skyddsräcken, har varit till salu länge, och lokala modeller är tillräckligt sofistikerade för många kriminella aktiviteter.
Situationen kompliceras ytterligare av flera amerikanska företags växande intresse för kinesiska open-weight-modeller. Dessa modeller erbjuder konkurrenskraftig prestanda till betydligt lägre kostnader jämfört med stora amerikanska program. Till exempel kan produktion av en miljon tokens kosta cirka 50 dollar med amerikanska modeller, medan motsvarande kinesiska modeller kostar så lite som 15 dollar eller till och med mindre än en dollar.
Experter påpekar att ett totalförbud mot open-weight-modeller i USA skulle vara inte bara svårt att genomföra utan också ineffektivt. Modellerna är i grunden datafiler vars distribution är praktiskt taget omöjlig att stoppa när de väl finns på internet. Företag som försöker begränsa AI-användningen kan oavsiktligt driva utvecklingen under jorden istället för att stoppa den helt.