Google drar tillbaka AI-funktion från Google Earth efter missbruk

Google har tagit bort en AI-driven bildgenereringsfunktion i Google Earth som lanserades endast två dagar tidigare. Företaget uppgav att anledningen är att användare har delat bilder som verkar bryta mot dess policyer. Google meddelade att de arbetar på att implementera starkare skyddsåtgärder innan funktionen eventuellt återinförs.

Den nya funktionen användes för att skapa AI-bilder baserade på Googles satellit-, flyg- och 3D-bildmaterial genom angivna textprompter. Google hade marknadsfört funktionen för att återskapa historiska platser, visualisera utbildningsmaterial och för att illustrera framtida stadsmiljöer.

Experter och forskare hade dock varnat för potentiellt missbruk av funktionen. De påpekade att användare kunde skapa övertygande falska satellitbilder genom att kombinera AI-genererat innehåll med Googles betrodda bildmaterial. Vissa användare lyckades skapa bilder av bland annat det kollapsade Eiffeltornet eller ryska stridsvagnar i Kiev.

Enligt Google innehöll alla AI-genererade bilder en SynthID digital vattenstämpel som indikerade att de var AI-genererade. Företaget förhindrade också skapandet av bilder om skadliga ämnen. Trots detta lyckades användare kringgå vissa begränsningar och dela de genererade bilderna utanför Google. Företaget har inte meddelat när funktionen eventuellt kommer att återkomma.