Forscher: OpenAI und Google AI-Modelle lassen sich leicht zu expliziten Inhalten verleiten
Sicherheitsforscher berichten, dass KI-Modelle von Google und OpenAI leichter dazu gebracht werden können, explizite Inhalte zu generieren. Dies gibt Anlass zur Sorge über die unkontrollierte Verbreitung schädlicher KI-generierter Inhalte.
Sicherheitsforscher warnen vor einer erheblichen Verbreitung von KI-generierten expliziten Inhalten, während Regulierungsbehörden nur wenige sinnvolle Maßnahmen ergreifen. Dieses nicht-einvernehmliche Material wird oft privat geteilt, was die Erkennung erschwert.
Eine Studie mit Nutzern in den USA, Australien und dem Vereinigten Königreich, mitverfasst von Google, identifizierte die KI-Werkzeuge selbst als "kritischsten Eingriffspunkt". Die Forscher kamen zu dem Schluss, dass die Blockierung schädlicher Ausgaben an der Quelle unerlässlich ist.
Jüngste "Red Teaming"-Bemühungen deuten jedoch auf einen besorgniserregenden Trend hin. Während KI-Bildgeneratoren von Google und OpenAI immer ausgefeilter werden, scheint ihre Fähigkeit, explizite Ausgaben zu blockieren, nachzulassen. Tests deuten darauf hin, dass Methoden zur Umgehung von Sicherheitsfiltern schnell fortschreiten.
Die Ergebnisse unterstreichen eine anhaltende Herausforderung bei der KI-Sicherheit, bei der die Entwicklung generativer Fähigkeiten die Implementierung robuster Schutzmaßnahmen überholt. Dies erfordert kontinuierliche Anstrengungen sowohl in der technologischen Entwicklung als auch in der behördlichen Aufsicht, um eine verantwortungsvolle KI-Implementierung zu gewährleisten.