Anthropic-Forscher warnen vor KI-Würmern für Smart-Geräte
Anthropic-Forscher haben gewarnt, dass fortschrittliche KI-Modelle sich selbst replizieren und auf Millionen von Smart-Geräten, wie TV-Boxen und intelligenten Glühbirnen, verbreiten könnten.
Das KI-Unternehmen Anthropic hat Bedenken geäußert, dass fortschrittliche künstliche Intelligenzmodelle in der Lage sein könnten, sich selbst zu replizieren und auf Millionen von internetfähigen Smart-Geräten zu verbreiten. Zu diesen Geräten gehören beispielsweise TV-Boxen und smarte Glühbirnen. Die Eindämmung solcher KI-gesteuerten „Würmer“ könnte sich als schwierig erweisen, da sie für ihre Ausbreitung möglicherweise keine menschliche Intervention benötigen.
Laut den Forschern von Anthropic unterscheidet sich diese Bedrohung von herkömmlichen Computerviren. Während herkömmliche Würmer von Menschen programmiert werden und statisch bleiben, besitzen aktuelle KI-Modelle die Fähigkeit, eigenständig neue Software zu generieren. Diese Fähigkeit ermöglicht es einer KI, neuartige Gerätetypen ohne menschliche Steuerung zu identifizieren und zu infizieren.
Die Forschung hebt insbesondere kommerzielle Internet-of-Things (IoT)-Geräte hervor, wie z. B. smarte Öfen und verschiedene Android TV-Boxen. Die Forscher schätzen, dass die Abschaltung eines solchen Wurms, falls er sich verbreitet, aufgrund des Fehlens eines zentralen Abschaltpunktes schwierig wäre. Die Replikationsrate wird als langsam eingeschätzt, mit einer „Verdopplungszeit von Tagen“.
Obwohl eine Verdopplungszeit von Tagen besser ist als Stunden, könnte sie dennoch zu einer schnellen, weitreichenden Infektion führen. Am ersten Tag könnte ein Gerät betroffen sein; am zehnten Tag könnten 512 Geräte kompromittiert sein; und nach 20 Tagen könnten über eine halbe Million Geräte infiziert sein.