AI-ledare uppmanar till nedbromsning av utvecklingen med hänvisning till säkerhetsbekymmer
Ledande AI-forskare och företagsledare efterlyser en samordnad nedbromsning av utvecklingen av avancerade AI-system, med hänvisning till potentiella faror och behovet av större säkerhetsåtgärder.
Stora AI-forskningslabb signalerar en strategisk förändring, bort från ett intensivt kapplöpningsrace mot uppmaningar om samordnad avmattning i utvecklingen av banbrytande artificiell intelligens. Denna tonförändring följer av växande oro kring de potentiella riskerna förknippade med allt kraftfullare och oförutsägbara AI-kapaciteter.
Dario Amodei, VD för Anthropic, publicerade en essä där han argumenterade för en medveten nedtrappning av förbättringarna av AI-modeller. Han varnade för att kommersiella påtryckningar kunde skapa en 'race to the bottom', som förvärrar katastrofala risker. Essän belyste behovet av att hantera potentialen för AI att bli okontrollerbar.
Denna uppmaning till försiktighet upprepades snabbt av andra framstående personer inom AI-branschen. Sam Altman, VD för OpenAI, uttryckte sitt samtycke och nämnde interna diskussioner om takten inom sitt företag. Demis Hassabis, VD för Google DeepMind, stödde Amodeis position och upprepade sitt stöd för en branschomfattande standardiseringsorganisation.
Microsofts VD Satya Nadella kommenterade också att företaget stöder forskning och medveten takt för att säkerställa AI-anpassning. Uttalandena kommer samtidigt som branschen brottas med de etiska konsekvenserna och potentiella samhällseffekterna av avancerad AI, vilket understryker ett växande fokus på säkerhet och ansvarsfull utveckling framför snabb framsteg.