Le modèle IA ouvert de Z.ai atteint les capacités de pointe, les préoccupations de sécurité persistent
Un nouveau rapport de SaferAI indique que le modèle GLM-5.2 ouvert de Z.ai approche des capacités d'IA de pointe, mais manque d'atténuations de sécurité cruciales.
Un récent rapport du cabinet de recherche en IA SaferAI révèle que le modèle ouvert GLM-5.2 de Z.ai a fait des progrès significatifs, approchant les performances des principaux modèles d'IA de pointe.
L'étude a révélé que le modèle peut gérer des tâches complexes auparavant réservées aux grands modèles de langage commerciaux et fermés. Cependant, cette avancée en matière d'IA open-source s'accompagne de préoccupations quant à la sécurité.
GLM-5.2 semble manquer de plusieurs fonctions de sécurité clés généralement intégrées dans les modèles propriétaires. SaferAI avertit que le développement rapide de modèles ouverts puissants, sans garanties adéquates, pourrait dépasser les efforts de gouvernance.
Les résultats soulignent un défi persistant dans le développement de l'IA : trouver un équilibre entre l'innovation et des mesures de sécurité robustes. Bien que les modèles ouverts favorisent la recherche et l'accessibilité, la gestion de leurs risques potentiels reste une tâche essentielle pour l'industrie.