Anthropic CEO weist Forderung nach Verbot offener KI-Modelle zurück

Der CEO von Anthropic, Dario Amodei, hat am Montag in einem Blogbeitrag erklärt, dass sein Unternehmen "niemals ein Verbot von offen zugänglichen (open-weight) Modellen gefordert hat". Diese Klarstellung erfolgte angesichts zunehmender Kritik innerhalb der Technologiebranche, die Anthropic eine übermäßige Kontrolle über die KI-Entwicklung vorwirft.

Die Aussage von Amodei folgt auf einen Brief, der letzte Woche von einer Koalition von Technologieunternehmen, darunter Nvidia, Microsoft und Meta, veröffentlicht wurde. In diesem Brief riefen die Unternehmen die politischen Entscheidungsträger dazu auf, "voreilige Beschränkungen" für offen zugängliche Modelle zu vermeiden. Während der Rivale OpenAI den Brief unterzeichnete, tat es Anthropic nicht.

Anthropic ist vor allem für seine proprietären Claude-Modelle bekannt, die an Unternehmen verkauft werden. Amodei bekräftigte, dass Anthropic kein kategorisches Verbot von offen zugänglichen Modellen anstrebt. Stattdessen schlug er vor, sich darauf zu konzentrieren, den Zugang autoritärer Akteure zu leistungsstarken Chips zu verhindern, die industrielle "Destillation" (die Ausbildung kleinerer Modelle mithilfe von Ausgaben größerer Modelle) einzudämmen und Sicherheitstests für alle fähigen Modelle, unabhängig von ihrer Offenheit, zu fordern.

Amodei räumte zwar ein, dass offen zugängliche Modelle den Nutzern mehr Kontrolle bieten und den Wettbewerb fördern, stimmte jedoch nicht der Annahme zu, dass sie Cyber-Verteidiger gegenüber Angreifern bevorzugen oder die Entwicklung von Schutzmaßnahmen vereinfachen. Er bekräftigte, dass protektionistische Verbote seine dringendsten nationalen Sicherheitsbedenken nicht lösen würden.