EU AI Act: KI ab August 2025 unter behördlicher Aufsicht

Ab dem 2. August 2025 tritt die nächste Stufe des EU AI Acts in Kraft und führt weitere Pflichten für Unternehmen und Behörden ein. Besonders betroffen sind Anbieter und Nutzer von General-Purpose AI (GPAI)-Modellen wie GPT oder LLaMA. Neue Vorgaben umfassen Dokumentation, Transparenz, Risikomanagement und Compliance, inklusive Fristen, technischer Anforderungen und möglicher Bußgelder.

Anbieter von GPAI-Modellen müssen neue Regeln einhalten, die technische Dokumentation über Aufbau, Trainingsdaten und Rechenleistung verlangen. Zudem sind Transparenzberichte über Schwächen und Risiken sowie Tests zur Verhinderung schädlicher Ergebnisse vorgeschrieben. Die Herkunft der Trainingsdaten muss verständlich offengelegt werden.

Für als systemisch riskant eingestufte Modelle gelten zusätzliche Auflagen, darunter Risikobewertungen und "Adversarial Testing" zur Missbrauchsprävention. EU-Mitgliedsstaaten müssen nationale Aufsichtsbehörden benennen und die Durchsetzungsinfrastruktur bereitstellen.

Auch Nutzer von GPAI-Modellen treffen neue Anforderungen, insbesondere bei der Integration in Hochrisikoanwendungen wie Personalwesen, Gesundheit oder Finanzen. Sie müssen sicherstellen, dass die eingesetzten Systeme den Vorgaben des AI Acts entsprechen, einschließlich Dokumentations- und Risikobewertungspflichten.

Verstöße gegen den AI Act können empfindliche Strafen nach sich ziehen, die bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen können. Da viele technische Anforderungen noch nicht vollständig standardisiert sind, sollten Unternehmen die Entwicklungen aufmerksam verfolgen und sich entsprechend vorbereiten.