Trillium Labs förespråkar öppen forskning inom AI

Nathan Lambert och Tom Zick har grundat Trillium Labs, ett ideellt forskningsinstitut som vill förändra landskapet för högrisk-AI-forskning genom att främja transparens och samarbete. Detta initiativ går emot den trend där många stora teknikföretag håller sina mest avancerade AI-modeller bakom stängda dörrar med begränsad åtkomst.

Trillium Labs kommer att fokusera på att utforska potentiellt problematiska områden inom AI, såsom rekursiv självförbättring (RSI) och agenter, på ett öppet sätt. Till skillnad från många nuvarande AI-jättar som erbjuder åtkomst via API:er eller inte alls, planerar Trillium Labs att publicera detaljerade experimentresultat. Detta tillvägagångssätt möjliggör för externa forskare att granska, replikera och bidra till arbetet, vilket leder till snabbare och mer robusta framsteg inom fältet.

Lambert menar att den nuvarande sekretessen hos AI-laboratorier begränsar forskarsamhällets förmåga att granska idéer och utveckla nya metoder. Han anser att öppen granskning av hur modeller byggs och finjusteras är avgörande för riskhantering. "Vetenskaplig metod har varit ett verktyg för mänskligheten i tusentals år för att mildra skador och bygga bättre framtider", sade Lambert och kritiserade den nuvarande slutna utvecklingsvägen.

AI-utvecklingen sker i snabb takt, och nya modellers potential att upptäcka sårbarheter och infiltrera system har ökat granskningen. Lambert och Zicks ansats betonar att en delad förståelse för riskerna gynnar hela samhället mer än begränsad åtkomst och sekretess. Grundandet av Trillium Labs markerar ett betydande steg mot en mer öppen och ansvarsfull AI-framtid.