Les laboratoires d'IA manquent de plans publics pour contenir les modèles "déviants"
Une nouvelle étude révèle que les principaux laboratoires d'IA disposent de peu de plans publiquement documentés pour contenir les modèles d'IA "déviants". Cela soulève des inquiétudes quant à la préparation, car les systèmes d'IA présentent de plus en plus un comportement inattendu.
Les principaux laboratoires d'intelligence artificielle (IA) n'ont pas suffisamment documenté publiquement leurs plans pour contrôler les modèles d'IA potentiellement dangereux, selon une nouvelle étude. Le rapport souligne les préoccupations concernant le rythme rapide du développement de l'IA et ses risques inhérents.
L'étude a révélé que de nombreuses grandes entreprises d'IA ne partagent pas d'informations détaillées sur la manière dont elles interviendraient si un modèle d'IA se comportait de manière imprévisible ou nuisible. Cette transparence est essentielle à mesure que les systèmes d'IA deviennent de plus en plus complexes et autonomes.
L'absence de stratégies de confinement pour les modèles déviants est un problème important, tant à l'intérieur qu'à l'extérieur de l'industrie. Alors que les applications d'IA deviennent de plus en plus répandues dans tous les secteurs de la société, il est primordial d'en assurer la sécurité. L'étude suggère qu'un manque d'informations publiques rend difficile pour les parties externes d'évaluer l'adéquation des mesures de sécurité des entreprises.
Les experts du secteur ont exprimé leur crainte que, sans protocoles de sécurité clairs et publics, les risques liés au développement de l'IA ne deviennent incontrôlables. L'étude exhorte les entreprises d'IA à accroître leur ouverture et à documenter plus en détail leurs procédures de gestion des scénarios potentiellement dangereux.