Anthropic verhinderte KI-Versuche zur Entwicklung biologischer Bedrohungen

Das KI-Unternehmen Anthropic hat Berichten zufolge Versuche blockiert, bei denen sein Claude-KI-Modell für Forschungszwecke genutzt werden sollte, die zur Entwicklung gefährlicher biologischer Bedrohungen hätten führen können. Laut dem Unternehmen baten anonyme Forscher Claude um Unterstützung bei Projekten, die das Potenzial hatten, neue biologische Gefahren zu schaffen.

Die von Anthropic in einem kürzlich veröffentlichten Bericht detailliert beschriebenen Vorfälle umfassten die Bitte um Hilfe bei der Ausarbeitung eines Förderantrags für "Gain of Function"-Forschung am Chikungunya-Virus. Diese Art von Forschung zielt darauf ab, Krankheitserreger absichtlich gefährlicher oder übertragbarer zu machen, um ihre Infektionsmechanismen besser zu verstehen. Obwohl solche Forschung legitime wissenschaftliche Zwecke haben kann, ist ihr potenzieller Missbrauch zur Entwicklung von Biowaffen ein erhebliches Problem.

In einem anderen gemeldeten Fall versuchten Forscher, Claude zur Entwicklung neuartiger Gifte und Toxine einzusetzen. Anthropic betonte, dass diese „Dual-Use-Technologie“ der Wissenschaft zugutekommen kann, wie im Fall von Botulinumtoxin (Botox), aber auch waffenfähig gemacht werden kann. Das Unternehmen gab an, dass seine Sicherheitsmechanismen diese Anfragen verhinderten, räumte jedoch die Herausforderungen bei der Überwachung solch fortschrittlicher Modelle ein.

Anthropic räumt ein, dass die früheren begrenzten wissenschaftlichen Fähigkeiten der Modelle als Schutzmaßnahme dienten. Nun, da die wissenschaftliche Argumentationsfähigkeit von KI-Modellen zunimmt, steigt die Bedrohung. Besonders besorgniserregend ist die Situation bei Open-Source-KI-Modellen, die weniger Schutzmechanismen aufweisen und sich schnell weiterentwickeln.

Das Unternehmen betont, dass, obwohl schädliche Anfragen in diesen Fällen erfolgreich blockiert wurden, es unmöglich ist zu wissen, wie viele ähnliche Anfragen die Filter umgangen haben. Die rasante Entwicklung der KI stellt neue Sicherheitshindernisse dar, und die Verhinderung zukünftiger Krankheitserregerentwicklung könnte zunehmend von der Diskretion bösartiger Akteure abhängen.