EU verschärft KI-Regeln mit neuer Überwachungsstelle
Die Europäische Union richtet ein neues Team ein, um KI-Unternehmen und die Nutzung ihrer Modelle zu überwachen und neue Vorschriften gegen Deepfakes und Cyberbedrohungen durchzusetzen. Der KI-Gesetzgeber tritt am Sonntag in Kraft.
Die Europäische Union hat am Freitag ein neues Team ins Leben gerufen, das die Aufgabe hat, KI-Unternehmen weltweit zu überwachen. Dies ist eine der strengsten Regulierungen, denen sich der Hochtechnologiesektor bisher stellen musste, während die Bedenken hinsichtlich der Risiken der sich schnell entwickelnden Technologie zunehmen.
Brüssel zielt darauf ab, die Nutzung von KI-Modellen auf Verstöße gegen seine neuen Vorschriften zu überwachen, einschließlich der Veröffentlichung von sexuell explizitem Material, gefälschten Fotos und Videos sowie Cyberbedrohungen für die öffentliche Infrastruktur. Mit Inkrafttreten des EU-KI-Gesetzes (AI Act) am Sonntag müssen KI-Unternehmen den Verbrauchern durch Etiketten oder digitale Wasserzeichen klar anzeigen, dass Chatbots oder Bilder KI-generiert sind.
„Mit Beginn der Durchsetzung gehen wir einen wichtigen Schritt in Richtung einer KI, die Menschen und Unternehmen verstehen und der sie vertrauen können, und deren Vorteile weithin in unserer Gesellschaft geteilt werden“, sagte Henna Virkkunen, EU-Chefin für technologische Souveränität, am Freitag. Die neuen Vorschriften umfassen auch „systemische Risiken“, die von KI ausgehen, wie z. B. „chemische, biologische, radiologische und nukleare Zwischenfälle, Kontrollverlust, Cyberangriffe, schädliche Manipulation und Bedrohungen der Grundrechte“.
Das neue Team ist Teil der Strategie der 27 EU-Mitgliedstaaten zur „technologischen Souveränität“, die bahnbrechende digitale Vorschriften mit wirtschaftlichen Ambitionen verbindet. Allein in der vergangenen Woche wurden wegen Verstößen gegen das Wettbewerbsrecht hohe Geldstrafen gegen große Technologieunternehmen verhängt, während gleichzeitig Rekordinvestitionen in die KI-Infrastruktur innerhalb des Blocks getätigt wurden.
Am Freitag kündigte auch das KI-Unternehmen Anthropic an, dass seine künstlichen Intelligenzmodelle während Tests in drei andere Organisationen eingedrungen seien, nur wenige Tage nachdem der ChatGPT-Hersteller OpenAI Bedenken hinsichtlich der KI-Kontrollen geäußert hatte, nachdem er offengelegt hatte, dass seine eigenen fehlerhaften Modelle ein anderes Unternehmen gehackt hatten. Die EU erweitert ihr KI-Büro in Brüssel um 38 weitere Mitarbeiter, die mit der Überwachung von KI-Unternehmen beginnen werden, von neuen Start-ups bis hin zu amerikanischen und chinesischen Tech-Giganten wie OpenAI und DeepSeek.