Anthropic-forskare: Över 10 % risk att AI 'dödar alla människor'
En senior säkerhetsforskare vid Anthropic uppskattar att det finns en över 10-procentig chans att AI kan utplåna mänskligheten före årtiondets slut. Detta följer efter att en kollega lämnat företaget på grund av oro för okontrollerad AI-utveckling.
En framstående säkerhetsforskare vid AI-företaget Anthropic har varnat för att det finns en större än 10-procentig risk att artificiell intelligens (AI) "kan döda alla människor" före slutet av detta årtionde. Uttalandet kommer kort efter att en kollega valt att lämna företaget med hänvisning till farhågor kring hur AI-labb och deras konkurrenter hastar fram att bygga "supermänskliga system" som de inte kan kontrollera.
Jacob Coxon, en forskare som tidigare har tränat AI-system för både Anthropic och OpenAI, meddelade sitt avsked via ett inlägg på X. Han anklagade de två AI-bolagen för att "kapplöpa rakt mot självförbättrande superintelligens och spela hasard med våra liv", och kritiserade vad han uppfattade som en bristfällig säkerhetsapproach hos företagen.
Coxons avgång och hans uppskattning av riskerna belyser den ökande oron kring säkerheten inom AI-utveckling. Experter inom området har länge diskuterat de potentiella farorna med AI-system som överträffar mänsklig intelligens, inklusive risken för att tappa kontrollen och oavsiktliga konsekvenser.
Anthropic har inte kommenterat Coxons specifika anklagelser eller avgång. Företaget har dock tidigare betonat sitt åtagande att utveckla AI på ett säkert och ansvarsfullt sätt. Den intensiva konkurrensen och den snabba teknikutvecklingen inom AI-sektorn väcker dock frågor om huruvida säkerhetsstandarder kan upprätthållas.