OpenAI teste un nouveau système de sécurité pour ses modèles d'IA
OpenAI teste un nouveau système de sécurité, Private Safety Processing, conçu pour détecter les schémas d'utilisation abusive de l'IA sans donner accès aux données clients. Le système est actuellement en phase de test et son déploiement est prévu pour septembre.
La société d'intelligence artificielle OpenAI a commencé à tester un nouveau système de sécurité appelé Private Safety Processing. Ce système est conçu pour détecter des schémas d'utilisation abusive à travers plusieurs interactions d'IA, sans accorder aux employés d'OpenAI l'accès aux invites ou aux réponses des clients.
Ce nouveau système étend la fonctionnalité existante de rétention zéro donnée (Zero Data Retention) d'OpenAI, qui permet aux clients API éligibles de garder leurs invites et les réponses des modèles en dehors des données conservées par OpenAI. Private Safety Processing étend ces protections pour couvrir les interactions connexes. OpenAI affirme que ses systèmes automatisés peuvent identifier des schémas indiquant une utilisation abusive, y compris des activités qui ne deviennent visibles qu'après plusieurs requêtes. Les clients peuvent continuer à stocker le contenu sur leur propre infrastructure, ou OpenAI développe une option où le contenu est stocké sur l'infrastructure d'OpenAI mais chiffré avec des clés contrôlées par le client.
Lorsque le système détecte un risque, OpenAI reçoit un signal limité sur le type d'activité impliquée, sans accès au contenu sous-jacent. Les clients peuvent examiner les alertes via leurs propres systèmes et choisir de partager des informations pertinentes avec OpenAI lors de contestations de décisions d'application ou pour soutenir une enquête sur un abus vérifié. Une exception s'applique aux images signalées comme potentiellement du matériel pédopornographique (CSAM), qui continueront d'être conservées pour un examen manuel et un signalement.
Le concurrent Anthropic adopte une approche différente, exigeant une période de rétention de 30 jours pour les invites et les sorties soumises à certains modèles pour la surveillance de la sécurité, même pour les organisations utilisant la rétention zéro. Le nouveau système d'OpenAI vise à offrir des protections similaires en détectant les schémas d'utilisation abusive tout en gardant le contenu sous-jacent hors de portée de ses employés.
OpenAI teste actuellement le système avec une sélection de clients précoces et prévoit un déploiement plus large en septembre. La société n'a pas encore précisé si Private Safety Processing sera disponible pour les clients indiens ou s'il y aura des conditions ou des restrictions spécifiques à l'Inde lors du lancement.