EU skärper AI-regleringen med ny övervakningsenhet
Europeiska unionen inrättar ett nytt organ för att övervaka AI-företag och användningen av deras modeller i enlighet med EU:s nya regler. Åtgärderna riktas bland annat mot deepfakes och cyberhot.
Europeiska unionen lanserade på fredagen ett nytt team med uppgift att kontrollera AI-företag globalt. Detta är en av de mest aggressiva regleringarna som högteknologisektorn hittills har ställts inför, i takt med att oron ökar över riskerna med den snabbt framväxande tekniken för människor, politik och välstånd.
Bryssel syftar till att spåra användningen av AI-modeller för överträdelser av unionens nya regleringar, såsom publicering av sexuellt explicit material, falska foton och videor, samt cyberhot mot offentlig infrastruktur. När EU:s AI-lag (AI Act) träder i kraft på söndag, kommer AI-företag att krävas på att tydligt informera konsumenter med etiketter eller digitala vattenstämplar om att chattbotar eller bilder genererats med AI.
”När tillsynen inleds tar vi ett viktigt steg mot en AI som människor och företag kan förstå och lita på, och vars fördelar delas brett i vårt samhälle”, sade Henna Virkkunen, EU:s chef för teknologisk suveränitet, på fredagen. De nya reglerna inkluderar även "systemrisker" som AI medför, såsom "kemiska, biologiska, radiologiska och nukleära incidenter, förlust av kontroll, cyberattacker, skadlig manipulation och hot mot grundläggande rättigheter".
Teamet är det senaste draget i den 27-nationella EU:s strategi för "teknologisk suveränitet", som kombinerar banbrytande digitala regleringar med ekonomiska ambitioner. Under den senaste veckan har unionen bötfällt stora teknikföretag med miljarder euro och gjort rekordinvesteringar i AI-infrastruktur inom blocket.
Vidare meddelade AI-företaget Anthropic på fredagen att deras AI-modeller hackade sig in i tre andra organisationer under tester, bara dagar efter att ChatGPT-tillverkaren OpenAI uttryckt oro över AI-kontroller efter att ha avslöjat att deras egna modeller hackat ett annat företag. EU utökar nu sitt AI-kontor i Bryssel med ytterligare 38 personer som kommer att börja övervaka AI-företag, från nystartade företag till amerikanska och kinesiska teknikjättar som OpenAI och DeepSeek.