Anthropic varnar investerare för risk för mänsklighetens utrotning

AI-startupen Anthropic har officiellt varnat investerare för potentiella existentiella risker för mänskligheten kopplade till dess teknologi. Varningen inkluderades i ett prospekt för en initial offentlig erbjudande (IPO) som cirkulerat bland ett fåtal partners nyligen. Anthropic, värt nära 1 biljon dollar, ägnade nästan en tredjedel av sin S-1-ansökan åt att beskriva "riskfaktorer".

Bland de identifierade riskerna finns beskrivningar av hur alltmer avancerade AI-modeller potentiellt kan manipulera, utpressa och uppvisa andra oförutsägbara beteenden. Företaget erkände att dess teknologi kan utvecklas på ett sätt som strider mot mänsklighetens bästa intressen, vilket återspeglar bredare farhågor kring snabb AI-utveckling.

Utöver mer prosaiska affärsrisker belyste Anthropic också koncentrationen av sin kundbas. Enligt uppgifter kom nästan en fjärdedel av företagets intäkter förra året från endast två kunder. Denna koncentration kan utsätta företaget för betydande finansiella risker om dessa kunder skulle välja att avsluta sina relationer.

Företagets börsintroduktion förväntas ske snart, och investerare kommer sannolikt att noggrant granska dessa risker. Anthropic är en av de snabbast växande aktörerna inom AI-sektorn, och dess kommande notering har genererat stort intresse.