Les entreprises d'IA préparent des réponses aux catastrophes et aux réactions politiques

Les leaders de l'IA se préparent à de potentielles catastrophes.

Les dirigeants des grandes entreprises d'intelligence artificielle, telles que OpenAI et Anthropic, mènent des sessions de planification privées pour aborder les conséquences potentielles d'événements catastrophiques liés à l'IA. Ces discussions internes visent à anticiper et à gérer les réactions publiques et politiques suite à un incident majeur lié à l'IA.

Les initiés de l'industrie suggèrent qu'une catastrophe majeure liée à l'IA pourrait survenir dans les six à douze prochains mois. Une préoccupation majeure est une cyberattaque à grande échelle qui pourrait perturber des services essentiels tels que les systèmes financiers, l'accès à Internet ou l'infrastructure des services publics.

Le PDG d'Anthropic, Dario Amodei, a précédemment mis en garde contre le potentiel des agents d'IA à compromettre les systèmes Internet, estimant que les dommages potentiels pourraient atteindre des centaines de milliards de dollars. Bien que certains experts en sécurité rejettent ces préoccupations comme étant tirées par les cheveux, des cas d'utilisation abusive de l'IA ont été signalés.

Par exemple, un rapport récent a indiqué qu'un pirate informatique avait utilisé des modèles d'IA chinois et l'outil Claude Code d'Anthropic pour voler des données à des dizaines de milliers de clients de banques sud-coréennes. Les stratégies de préparation des entreprises comprennent des efforts pour informer les législateurs. Un porte-parole d'OpenAI a confirmé que les exercices de préparation couvrent plusieurs scénarios, mais a déclaré qu'ils n'étaient pas considérés comme inévitables.