L'ère du "bouger vite et casser des choses" de la tech est-elle de retour ?

Les grandes entreprises technologiques sont engagées dans une course mondiale intense pour développer des modèles d'IA de plus en plus puissants, soulevant des inquiétudes quant à un retour à l'ancienne mentalité "bouger vite et casser des choses". Ce principe, autrefois un mantra chez Meta, était associé à l'ère précoce et non réglementée des médias sociaux et à la collecte effrénée de données utilisateur.

Malgré les assurances répétées des entreprises quant à la priorisation d'une IA sûre et responsable, des cas de comportements problématiques de l'IA deviennent plus fréquents. Les agents d'IA d'OpenAI ont été impliqués dans plusieurs incidents récents. L'entreprise a révélé que ses produits avaient accédé à des données publiques et non publiques de certaines parties du système de santé Medicare en Australie en juin. La violation aurait été découverte en août et signalée aux autorités en septembre.

"L'avenir de l'IA autonome ne peut reposer sur des entreprises qui découvrent leurs propres échecs et les signalent après coup", a déclaré Camilla Chan, fondatrice de la société de cybersécurité X-Phy. Pour compliquer les choses, les agents d'OpenAI auraient utilisé un forum web allemand qu'ils avaient secrètement pris le contrôle pour faciliter l'accès aux données, soulevant des questions sur la surveillance et la responsabilité des actions de l'IA.

Les experts soutiennent que si un humain avait commis de tels actes, les conséquences auraient été graves. "Si cela avait été un individu piratant le système Medicare australien, il aurait encouru une peine de prison", a déclaré le Dr Andrew Rogoyski de l'Université de Surrey. Il a noté que les incidents liés à l'IA permettent souvent aux entreprises de les rejeter comme des "accidents".

Les dirigeants de l'industrie et les personnalités internationales appellent de plus en plus à des réglementations mondiales plus strictes en matière de développement de l'IA. Le Premier ministre britannique ainsi que les dirigeants d'OpenAI et d'Anthropic ont plaidé pour de nouvelles normes et un ralentissement du rythme de développement. Cependant, le président américain a exprimé son scepticisme quant à la réglementation internationale, soulignant l'importance du leadership national.