New York City Council föreslår lag om belöningar till anmälare av farlig AI

New York City överväger nya regler för att övervaka användningen av artificiell intelligens. Ett av förslagen skulle uppmuntra anmälare att avslöja skadliga AI-metoder genom att ge dem en andel av böter som tas ut från företag.

Det nya lagförslaget är en del av en bredare ansträngning att skärpa regleringen av AI i staden. Rådet förväntas snart behandla förslaget. Dessutom planeras en lag som skulle tillåta personer som drabbats av skada att stämma utvecklare av AI-system under vissa omständigheter.

Förslagen presenterades inför en utfrågning den 5 oktober om risker och skyddsåtgärder för AI. Hela stadsfullmäktige kommer att delta i utfrågningen. Ansträngningarna att skärpa regleringen intensifieras i takt med att oron växer kring den snabba utvecklingen av AI-modeller.

Talare, såsom Anthropic tidigare forskare Jacob Cockerson, har varnat för potentiella faror med AI. Ordföranden för stadsfullmäktige, Julie Menin, har kallat chefer för flera stora teknikföretag, inklusive Anthropic, OpenAI och Google, till utfrågning och betonat stadens ansvar att skydda sina invånare.

Andra förslag inkluderar krav på tredjepartscertifiering innan AI-system implementeras och krav på "nödstoppknappar". Dessutom diskuteras krav på dataskydd, säkerhet och transparens för leverantörer av chatbots.