Kung Charles III träffade AI-ledare i Skottland mitt i säkerhetsoro

Kung Charles III uppmanade på torsdagen ledande AI-experter i Skottland att säkerställa att artificiell intelligens förblir under kontroll och i tjänst hos människor och planeten.

Mötet, som samlade representanter från bland annat OpenAI, Anthropic, Google DeepMind och Nvidia, hölls för att diskutera hur AI kan gynna samhället. Samlingen sker vid en avgörande tidpunkt för tekniken, då debatten rasar om huruvida snabba framsteg snart kommer att överträffa människans förmåga att kontrollera den.

Enligt kungen är både utvecklingens substans och dess takt fascinerande och djupt oroande. Han betonade behovet av att snarast överväga riskerna med att sådan teknologi hamnar i fel händer och används på potentiellt katastrofala sätt.

Charles bad deltagarna, inklusive Nvidias VD Jensen Huang och Google DeepMinds ordförande Demis Hassabis, att reflektera över de grundläggande principer som bör styra AI-utvecklingen. Diskussionerna berörde även hur man bygger internationellt samarbete och konsensus för att säkerställa säker AI.

Mötet hölls vid Dumfries House i Skottland. Det följer rapporter om att AI-modeller har börjat uppvisa oväntat och potentiellt oroande beteende, vilket väcker frågor om dess säkerhet och framtida riktning.