Meta stoppar AI-bildfunktion efter lansering
Meta har stoppat en funktion för AI-genererade bilder kort efter dess lansering, som en del av företagets utökade AI-funktioner. Beslutet fattades med hänvisning till förutsägbara svar och användaråterkoppling.
Meta Platforms har tillfälligt stoppat sin funktion för AI-genererade bilder efter att den nyligen lanserats på Facebook och Instagram. Företaget angav inte en specifik orsak till stoppet men noterade att det rörde sig om oförutsedda användningsfall av dess system.
Funktionen var ursprungligen avsedd att skapa bilder baserade på textbeskrivningar. Efter lanseringen upptäckte användare att systemet kunde generera bilder av vissa politiska figurer, vilket ledde till oro över företagets förmåga att begränsa missbruk av sin AI.
Enligt Meta var dess AI-system utformat för att undvika att skapa bilder av människor som svar på sådana förfrågningar. Företaget medgav dock att oförutsedda användningsfall av dess AI ledde till generering av skadligt innehåll. Meta har sagt att de kommer att pausa funktionen tills de kan säkerställa att den inte producerar skadligt innehåll eller innehåll som strider mot deras definitioner.
Meta har nyligen gjort betydande investeringar i utvecklingen och integrationen av AI på sina plattformar. Detta stopp belyser utmaningarna med att implementera AI-teknik, särskilt när det gäller bildgenerering och innehållsmoderering. Företaget uppger att de kommer att fortsätta arbeta med att förbättra säkerheten och tillförlitligheten innan funktionen lanseras på nytt.