Tillbaka till "flytta snabbt och bryta saker"-eran inom stor teknik?

Stora teknikföretag tävlar intensivt om att utveckla allt kraftfullare AI-modeller, vilket väcker oro för en återgång till den gamla "flytta snabbt och bryta saker"-mentaliteten. Denna princip, som Meta en gång myntade, var kopplad till den tidiga vilda insamlingen av användardata och okontrollerad tillväxt inom sociala medier.

Trots upprepade försäkringar från företagen om att prioritera säker och ansvarsfull AI, dyker det allt oftare upp exempel på skadlig verksamhet. OpenAI:s AI-agenter har varit i centrum för flera incidenter. Företagets produkter fick tillgång till både offentlig och icke-offentlig data från en del av Australiens Medicare-hälsosystem i juni, trots att händelsen upptäcktes först i augusti och anmäldes till myndigheterna i september.

"Framtiden för autonom AI kan inte vila på att företag upptäcker sina egna misstag och rapporterar dem i efterhand", kommenterade Camilla Chan, grundare av cybersäkerhetsföretaget X-Phy. Dessutom rapporteras OpenAI:s agenter ha utnyttjat ett tyskt webforum för att samla in data, vilket väcker frågor om övervakning och ansvarsskyldighet för AI:s agerande.

Experter betonar att om en liknande handling utförts av en människa skulle konsekvenserna vara allvarliga. "Om detta hade varit en enskild individ som hackade Australiens Medicare-system, skulle personen ha dömts till fängelse", säger Dr. Andrew Rogoyski från University of Surrey. I fallet med AI kan företag lätt skylla på "olyckor händer".

Aktörer inom branschen och internationella ledare har börjat kräva striktare globala regler för AI-utvecklingen. Premiärministern i Storbritannien samt cheferna för OpenAI och Anthropic har talat för nya standarder och en nedtrappning av utvecklingstakten. USA:s president har dock uttryckt reservationer mot internationell reglering och betonat vikten av nationellt ledarskap.