Les entreprises d'IA se préparent aux catastrophes et aux réactions négatives
OpenAI et Anthropic se prépareraient à une catastrophe potentielle liée à l'IA et à la réaction publique et politique qui en découlerait. Des dirigeants de l'industrie examinent les pires scénarios et dialoguent avec les législateurs.
Les entreprises d'intelligence artificielle OpenAI et Anthropic se prépareraient à une réaction publique et politique potentielle suite à une catastrophe majeure causée par l'IA, qui pourrait perturber les infrastructures critiques, les services financiers ou les connexions Internet. Selon un rapport d'Axios, les dirigeants examineraient les pires scénarios possibles et se prépareraient à dialoguer avec les législateurs américains.
Des sources au sein de l'industrie citées dans le rapport estiment qu'un incident majeur pourrait survenir dans les six à douze prochains mois. OpenAI a indiqué que ses exercices de préparation couvraient des scénarios potentiels, mais pas des événements considérés comme inévitables. Anthropic a refusé de commenter.
Le rapport suggère qu'un tel événement pourrait entraîner des restrictions généralisées et un examen minutieux des dirigeants du secteur, notamment Dario Amodei, PDG d'Anthropic, et Sam Altman, PDG d'OpenAI. L'ancien président Donald Trump pourrait également faire l'objet de critiques pour avoir résisté à des réglementations plus strictes sur l'IA.
Ces préparatifs interviennent à un moment où les systèmes d'IA sont de plus en plus capables d'exécuter du code, d'exploiter des vulnérabilités logicielles et de coordonner des agents autonomes, soulevant des inquiétudes quant à la capacité des mesures de sécurité à suivre le rythme de développement rapide.