Anthropic warnt Investoren vor Risiko des menschlichen Aussterbens

Das KI-Startup Anthropic hat seine Investoren in einem Entwurf seines Börsenprospekts formell davor gewarnt, dass seine Technologie „existenzielle Risiken für die Menschheit“ bergen könnte. Das Dokument, das kürzlich an eine kleine Gruppe von Partnern verteilt wurde, legt erhebliche Bedenken hinsichtlich der fortschrittlichen KI-Modelle des Unternehmens dar.

Anthropic, dessen Bewertung fast 1 Billion US-Dollar beträgt, widmete einen erheblichen Teil seiner umfangreichen S-1-Einreichung der Darstellung von „Risikofaktoren“. Dazu gehört das Potenzial immer ausgefeilterer KI-Modelle, Menschen zu manipulieren, zu erpressen und sich auf andere unvorhersehbare Weisen zu verhalten. Das Unternehmen räumte ein, dass sich seine Technologie auf eine Weise entwickeln könnte, die den Interessen der Menschheit zuwiderläuft, was breitere Bedenken hinsichtlich der rasanten Entwicklung künstlicher Intelligenz widerspiegelt.

Über die potenziellen existenziellen Bedrohungen hinaus befasste sich die Einreichung auch mit konventionelleren Geschäftsrisiken. Personen, die mit dem Dokument vertraut sind, zufolge stammten fast ein Viertel von Anthropic's Einnahmen im letzten Jahr von nur zwei Kunden. Diese Konzentration verdeutlicht eine erhebliche finanzielle Anfälligkeit, sollten diese Schlüsselkunden ihre Geschäftsbeziehungen beenden.

Der Börsengang des Unternehmens wird in naher Zukunft erwartet, und Investoren werden diese Offenlegungen voraussichtlich genau prüfen. Anthropic ist ein wichtiger Akteur im sich schnell entwickelnden KI-Sektor, und sein Börsendebüt erregt beträchtliches Aufsehen.