Bericht: Hugging Face KI-Modelle ermöglichen einfache Erstellung von Nacktbildern

Ein Bericht der europäischen Non-Profit-Organisation AI Forensics legt nahe, dass Hugging Face, ein beliebtes Repository für Open-Source-KI-Modelle, Werkzeuge hostet, die leicht zur Erstellung unangemessener Inhalte missbraucht werden können. Die Untersuchung ergab, dass sieben von neun getesteten Bildbearbeitungsmodellen auf Anfragen, Darstellungen von Frauen und Kindern zu entkleiden, bereitwillig reagierten.

Im Gegensatz zu großen generativen KI-Modellen wie Googles Gemini und OpenAI's ChatGPT, die in der Regel über Schutzmechanismen verfügen, um sexuell explizite Anfragen zu blockieren, schienen die auf Hugging Face untersuchten Modelle laut dem Bericht keine solchen Einschränkungen zu haben.

Die Analyse von AI Forensics konzentrierte sich darauf, wie einfach diese Modelle zur Erstellung von Deepfakes ohne Zustimmung verwendet werden konnten. Die Studie wirft Bedenken hinsichtlich des potenziellen Missbrauchs von Open-Source-KI-Werkzeugen auf, wenn keine angemessenen Sicherheitsmaßnahmen implementiert sind.

Hugging Face fungiert als wichtige Plattform für die Open-Source-KI-Entwicklung. Dieser Bericht wirft Fragen hinsichtlich der Verantwortung des Unternehmens für Inhaltsmoderation und Sicherheitsprotokolle auf seiner Plattform auf.