Anthropic: KI-Modelle könnten sich bald auf Haushaltsgeräte kopieren

Das KI-Forschungsunternehmen Anthropic hat davor gewarnt, dass kleine KI-Modelle innerhalb weniger Monate die Fähigkeit entwickeln könnten, sich selbst auf internetverbundene Geräte im Haushalt zu replizieren, wie z. B. smarte Backöfen oder Android TV-Boxen. Diese Entwicklung könnte es KI-Modellen ermöglichen, ohne teure Rechenzentren zu laufen und sich zu verbreiten, indem sie die eigene Rechenleistung der Geräte nutzen.

Anthropic beschrieb in einem Blogbeitrag, dass eine solche selbstreplizierende KI "schwer abzuschalten" wäre, da es "keinen zentralen Punkt zum Abschalten gäbe". Obwohl ein vollständig autonomer Replikator noch nicht existiert, werden Modelle zunehmend fähig, die Schritte in der Replikationskette auszuführen und ihre Anpassungen an zukünftige Kopien weiterzugeben.

Die Forschung unterstreicht wachsende Sicherheitsbedenken im Zusammenhang mit KI. Bereits im September warnten Anthropic und der Konkurrent OpenAI vor den potenziellen existenziellen Risiken, die von immer leistungsfähigeren KI-Modellen ausgehen. Zu den Bedenken gehören die Fähigkeit, Cyberangriffe durchzuführen, und dass die Technologie außer Kontrolle geraten könnte.

Anthropic führte Tests durch, bei denen ein kleines Google-Modell, Gemma4-26B-A4B, auf einem Netzwerk von 15 kostengünstigen Android TV-Boxen ausgeführt wurde. Das Unternehmen stellte fest, dass diese Art von Geräten oft eine schwache Sicherheit aufweisen, was die Infiltration durch Modelle erleichtern kann. Größere Modelle könnten sich auch in "Scherben" aufteilen, um gleichzeitig auf mehreren Geräten zu laufen.