Les outils d'IA de détection du cancer de la peau montrent des disparités pour les peaux foncées
Les outils d'IA pour la détection du cancer de la peau présentent des différences de précision significatives selon la couleur de peau. La recherche souligne que les modèles entraînés sur peau claire sont moins efficaces sur peau foncée.
De nouveaux outils basés sur l'intelligence artificielle (IA) destinés à aider à la détection du cancer de la peau montrent des disparités de performance notables, en particulier en ce qui concerne les différentes carnations. Bien que ces applications d'IA promettent un accès accru aux dépistages médicaux, leur efficacité s'avère incohérente selon les populations.
Les modèles d'IA apprennent à identifier les maladies en se basant sur des modèles visuels. Des études indiquent que les modèles principalement entraînés sur des images de peaux claires perdent en précision lorsqu'ils sont confrontés à des images de peaux foncées. Ce problème survient car l'IA peut s'appuyer incorrectement sur la couleur de peau comme raccourci diagnostique, plutôt que de se concentrer sur les caractéristiques intrinsèques de la lésion cutanée.
Par exemple, des affections comme la dermatite atopique peuvent se manifester différemment sur peau claire par rapport à peau foncée. Une IA peut identifier de manière fiable les symptômes sur peau claire mais échouer à reconnaître la même affection sur peau foncée. Cette divergence peut entraîner des soins sous-optimaux pour les personnes ayant une peau foncée. Ceci est particulièrement critique car certains cancers de la peau, comme le mélanome, sont plus difficiles à détecter sur peau pigmentée.
Les chercheurs ont observé que même les grands modèles linguistiques, tels que GPT-4, peuvent mal classer des grains de beauté bénins comme mélanomes malins lorsqu'ils sont présentés sur des tons de peau plus foncés. Cela peut entraîner une anxiété inutile chez le patient ou, à l'inverse, un manque de détection de cancers potentiellement mortels.
La nature biaisée des données d'entraînement de l'IA est une cause majeure de cette partialité. Les bases de données d'images médicales et les manuels ont historiquement contenu davantage d'images de personnes à peau claire. Pour remédier à cela, des ensembles de données plus diversifiés, incluant un nombre important d'images de patients aux teints variés, sont nécessaires. Les techniques d'IA générative peuvent être employées pour créer des images synthétiques, enrichir les ensembles de données d'entraînement et protéger la vie privée des patients.