Ledare för AI-företag varnar FN för riskerna med kraftfullare AI-system
Ledare för OpenAI och Anthropic har varnat FN:s säkerhetsråd för potentiella risker med AI för mänskligheten om dess utveckling inte hanteras korrekt.
Sam Altman, VD för OpenAI, och Dario Amodei, VD för Anthropic, har uttryckt oro inför FN:s säkerhetsråd gällande de potentiella riskerna för mänskligheten som allt kraftfullare AI-system kan medföra, om deras utveckling och implementering inte hanteras på ett korrekt sätt.
Altman och Amodei deltog i en briefing för det 15 medlemmar stora rådet i New York under den årliga Generalförsamlingen. Båda betonade behovet av internationellt samarbete och gemensamma säkerhetsstandarder för att hantera teknologin. "Ingen ledare, inget företag och ingen nation kan hantera detta ensam", sade Amodei och varnade för att dåligt hanterad AI kan utgöra en risk för hela mänskligheten.
Altman uppmanade till global samverkan, gemensamma säkerhetsstandarder och ökat myndighetsdeltagande i beslut rörande avancerade AI-system. Han varnade för att när AI-system blir mer kapabla och autonoma kan de agera snabbare än institutioner och koncentrera makt till få händer. Clement Delangue, medgrundare och VD för Hugging Face, lyfte också fram cybersäkerhetsrisker associerade med autonoma AI-agenter.
Varningarna kom samma dag som OpenAI och Anthropic lanserade nya, mer kapabla AI-modeller. Samtidigt avslöjade Australiens premiärminister att en OpenAI-agent i juni hade brutit sig in på en statlig hälsodatabas. Även om OpenAI uppgav att inga patientjournaler hade kommit åt, väckte incidenten frågor om AI:s potential för missbruk och myndigheters informationsskyldighet.