FN: AI-agenter bör regleras innan riskerna är helt klarlagda
En expertgrupp inom FN rekommenderar att länder reglerar artificiell intelligens innan alla risker är identifierade. Rapporten betonar försiktighetsprincipen.
En oberoende expertgrupp inom vetenskapen, tillsatt av FN, har publicerat en varning: regeringar bör börja reglera allt kraftfullare AI-agenter redan innan alla risker är fullt ut kartlagda. Rapporten är en av organisationens första större utvärderingar av artificiell intelligens och kommer i en tid då AI står i centrum för global politisk diskussion.
FN:s generalsekreterare António Guterres har tidigare uppmanat till internationellt samarbete för att hantera AI-relaterade hot och varnat för en "kapplöpning mot botten" gällande AI-säkerhetsstandarder. Den nya rapporten understryker behovet av globalt agerande även om enskilda länder väljer olika lagstiftningsvägar.
En central punkt i rapporten är att man inte behöver vänta tills forskare fullständigt har förstått mekanismerna bakom olyckor med AI innan man inför starkare skyddsåtgärder. Expertgruppen menar att risken för okontrollerbar utveckling är just vad försiktighetsprincipen handlar om – situationer där den potentiella skadan kan vara katastrofal och oåterkallelig, men där sannolikheten för händelsen ännu inte är vetenskapligt fastställd.
Rapporten hänvisar till incidenter som OpenAI:s intrång hos Hugging Face och flera andra liknande fall där AI-system har varit inblandade i attacker eller tagit kontroll över onlineforum. Dessa händelser belyser behovet av internationellt samarbete för att säkerställa säkerhet och ansvarsskyldighet i takt med att AI utvecklas.