Des chercheurs s'inquiètent des dérives de l'IA et de la confidentialité des données
Une inquiétude grandissante monte chez les chercheurs et les institutions académiques concernant l'éthique de l'utilisation des modèles d'IA et la propriété des résultats de recherche, suite à des incidents tels que la résolution potentielle des équations de Navier-Stokes par le Codex d'OpenAI.
Les milieux universitaires s'inquiètent de plus en plus de l'éthique de l'utilisation des modèles d'IA et de la propriété des résultats de recherche. La capacité du modèle Codex d'OpenAI à résoudre rapidement des problèmes mathématiques complexes soulève des questions sur la collecte et l'utilisation des données d'entraînement.
L'incident concerne le mathématicien Tristan Buckmaster, dont les recherches inédites auraient été utilisées pour entraîner le modèle d'OpenAI. Bien qu'OpenAI ait nié avoir utilisé les données des utilisateurs pour cette solution spécifique, la situation a révélé les risques potentiels de perte de crédit académique et de priorité lorsque des informations confidentielles sont introduites dans des outils d'IA.
En Inde, les institutions académiques commencent à réagir. De nombreux chercheurs utilisent l'IA uniquement pour des revues de littérature et évitent d'entrer des solutions complètes ou des méthodes brevetables. Les institutions envisagent également des modèles open-source et limitent la manipulation de données sensibles en raison d'un manque de contrôle.
L'Inde ne dispose actuellement pas de législation spécifique sur l'IA pour le secteur de la recherche. Les propositions actuelles se concentrent davantage sur la compensation financière, mais les experts soulignent que pour les chercheurs, la perte de crédit et de crédibilité est également un préjudice important. Jusqu'à ce que la situation se clarifie, les chercheurs devraient suivre des protocoles stricts, tels que le dépôt de brevets avant l'utilisation de l'IA et la garantie d'accords qui empêchent l'utilisation des données à des fins d'entraînement.