Le système de notation sociale de la Chine suscite un débat éthique sur l'IA en Europe
Les préoccupations montent en Europe concernant les systèmes de notation sociale basés sur l'IA, inspirés par le modèle chinois. Une étude révèle que l'IA est déjà utilisée dans des décisions administratives européennes, soulevant des questions éthiques.
Le système de notation sociale de la Chine, qui surveille et évalue le comportement des citoyens à l'aide de l'IA, suscite un débat en Europe. Ce système affecte l'accès à tout, des réservations de voyage aux écoles prestigieuses, en fonction de la note d'un citoyen.
Même si un tel système semble lointain et contraire aux valeurs européennes, des applications similaires d'IA sont déjà en usage sur le continent. Parmi les exemples, citons les agents frontaliers virtuels en Hongrie, en Grèce et en Lettonie pour détecter les récits inexacts de migrants, l'analyse des e-mails des demandeurs d'emploi en Finlande pour établir des profils de personnalité, l'IA en Italie pour aider aux décisions de traitement médical et des systèmes au Danemark pour identifier les enfants négligés.
Ces applications soulignent le besoin urgent de discuter des cadres éthiques et des réglementations légales potentielles pour l'IA. L'IA est également mise en œuvre par des entreprises privées, telles que le bureau de crédit allemand Schufa, qui utilise des systèmes de notation pour les décisions de prêt sans divulguer ses méthodes de calcul.
Les recommandations du Conseil consultatif allemand des affaires de consommation (SVRV) soulignent la nécessité de transparence dans tous les systèmes de notation. L'objectif est de prévenir la discrimination et la fraude, en suggérant que les consommateurs devraient pouvoir voir comment les points sont répartis entre différents groupes démographiques, ce qui pourrait révéler des biais algorithmiques. Une discussion européenne plus large sur ces questions est en cours.