Google retire une fonction de génération d'images par IA de Google Earth après des violations de politique

Google a annulé le déploiement de sa nouvelle fonction de génération d'images par IA dans Google Earth, la retirant moins de deux jours après son introduction. L'entreprise a déclaré que des utilisateurs avaient partagé des images générées qui semblaient enfreindre ses politiques, et qu'elle travaillait désormais à mettre en place des garde-fous plus solides.

La fonction, lancée le 30 juillet, permettait aux utilisateurs de créer des images générées par IA en utilisant comme base l'imagerie satellite, aérienne et 3D de Google Earth, via des invites textuelles. Google l'avait initialement promue pour des usages tels que la recréation de sites historiques, la génération d'infographies éducatives et la visualisation de projets immobiliers.

Cependant, des chercheurs et des experts avaient soulevé des préoccupations quant au potentiel d'utilisation abusive, avertissant que les utilisateurs pourraient créer de fausses images satellites convaincantes en combinant le contenu généré par IA avec les données cartographiques fiables de Google Earth. Des tests réalisés par des médias auraient produit des images fabriquées, dont une tour Eiffel effondrée et des chars russes à Kiev.

Google avait précédemment déclaré que toutes les images générées comprenaient un filigrane numérique SynthID pour indiquer leur origine IA et qu'il empêchait la création sur des sujets nuisibles. Malgré ces mesures, les utilisateurs auraient contourné certaines restrictions et partagé des images en dehors de la plateforme Google Earth. L'entreprise n'a pas précisé de calendrier pour le retour potentiel de la fonction.