Ancien responsable de la sécurité d'OpenAI exprime des inquiétudes sur le rythme de développement de l'IA

David Robinson, qui dirigeait auparavant les efforts de sécurité chez OpenAI, a quitté l'entreprise d'intelligence artificielle, exprimant de sérieuses inquiétudes quant au rythme accéléré du développement des technologies d'IA. Robinson, qui a passé trois ans chez OpenAI à se concentrer sur les protocoles de sécurité, a déclaré que l'industrie continue d'opérer comme une startup, bien que les systèmes développés soient beaucoup plus performants et potentiellement risqués qu'auparavant. Il estime désormais que les avertissements concernant les dangers potentiels de l'IA ne sont pas sans fondement.

Robinson établit un parallèle avec l'énergie nucléaire, suggérant qu'une perte de contrôle sur les systèmes d'IA pourrait causer des dommages comparables, voire supérieurs, à une catastrophe nucléaire. Il soutient que la rigueur de la sécurité devrait au moins correspondre à celle d'autres technologies dangereuses, strictement réglementées, mentionnant la licence, le rapport d'incidents et des structures de commandement claires comme éléments essentiels. Il a qualifié la culture interne d'OpenAI de décentralisée, avec des lignes d'autorité floues pour la prise de décision.

Il a également mis en évidence des facteurs psychologiques et financiers qui contribuent à la sous-estimation des risques liés à l'IA. Robinson a cité les incitations financières comme une forte motivation pour que les individus concluent que les mesures de sécurité actuelles sont suffisantes ou que les problèmes se résoudront d'eux-mêmes. La peur et la pression du temps ont également été citées comme des éléments contributifs.

Initialement sceptique quant aux scénarios extrêmes de "fin du monde" liés à l'IA, la perspective de Robinson a évolué en raison des preuves qu'il a rencontrées au cours de son passage chez OpenAI. Sa critique principale se concentre sur la vitesse du développement et les structures organisationnelles, qu'il estime mal alignées avec les dangers inhérents aux systèmes créés.