Pestens AI-rådgivare varnar för kartellbeteende bland stora AI-labb

Fader Paolo Benanti, en rådgivare till katolska kyrkan i frågor om artificiell intelligens (AI), har uttryckt oro för att stora AI-laboratorier kan uppvisa kartellliknande beteende genom att forma branschens framtid och dess regelverk. Benanti menar att fokus på potentiellt framtida superintelligenta AI-system distraherar från det omedelbara behovet av en öppen offentlig debatt och demokratisk reglering.

Han betonar att AI-etik inte bör vara en intern angelägenhet för företag, utan snarare bör balanseras och diskuteras öppet i det offentliga rummet. "Etik kan inte vara något som tillhör ett företags styrelse. Det är något som måste balanseras och mildras genom debatt i den offentliga sfären", sade Benanti till WIRED. Han kritiserar de stora labbens tendens att framställa problemen som så komplexa att endast de kan lösa dem, vilket effektivt exkluderar andra från samtalet.

Benanti är skeptisk till de apokalyptiska scenarier som vissa AI-forskare framställer, då han ser tydliga ekonomiska och politiska drivkrafter bakom dem. Även om vissa laboratorier, som Anthropic, har förespråkat en nedtrappning av utvecklingen och obligatoriska tredjepartskontroller, misstänker Benanti att deras motiv kan vara att bevara eller stärka sin marknadsposition. Han varnar för att när en liten grupp företag dikterar villkoren, är det ett tydligt tecken på kartellbildning.

Dessutom ifrågasätter Benanti den närmast vördnadsfulla inställningen till superintelligens inom AI-sektorn. Han anser att det är viktigt att förstå att man bygger avancerad beräkningsteknik, inte en gudomlig eller övernaturlig entitet. Samtidigt erkänner Benanti att AI:s framväxt kan skapa en ny roll för religioner i den offentliga debatten och hjälpa mänskligheten att hantera tidens utmaningar.