AI-ledare manar till långsammare utveckling på grund av säkerhetsfarhågor

Ledande figurer inom AI-utvecklingen, Sam Altman från OpenAI och Dario Amodei från Anthropic, har uttryckt sin oro över den snabba takten i teknikutvecklingen och efterlyser en inbromsning för att undvika potentiella existentiella risker.

Altman beskrev på sociala medier två scenarier där AI-utvecklingen kan gå katastrofalt fel. Det första är att mänskligheten förlorar kontrollen över framtiden till AI. Han betonade att AI alltid måste tjäna människor och att säkerhetstekniker måste hålla jämna steg med utvecklingen.

En annan oro för Altman är monopol på AI. Han varnade för att om en extremt kraftfull AI hamnar i händerna på en enda person eller företag, kan det leda till en dystopisk framtid där en enda världsbild påtvingas alla. Altman menar att AI-företag och regeringar måste hitta en "smal medelväg" där ingen enskild nation eller laboratorium får för stor kontroll över teknologins framtid.

Amodei å sin sida publicerade en essä med liknande tankegångar. Han förespråkar också en långsammare takt i AI-utvecklingen, men inte ett fullständigt stopp. Enligt honom skulle det vara att beröva mänskligheten dess fördelar att inte bygga tekniken, samtidigt som det skulle placera AI i händerna på auktoritära krafter. För snabb utveckling skulle däremot vara hänsynslös.

Amodei presenterade en trepunktsplan för att säkerställa en säker utvecklingstakt för AI. Planen inkluderar att integrera tredjepartsutvärderare, demokratisk samordning mellan företag i demokratiska länder för att skapa säkerhetsstandarder, och global samordning där demokratiska regeringar strävar efter att införa säkerhetsstandarder även för auktoritära stater.