Fonctionne avec Indico
v3.2.9
Le domaine en plein essor du Traitement Automatique des Langues (TAL) se trouve à un tournant critique où l'intégration de l'équité dans ses structures est devenue impérative. Cette thèse de doctorat se penche sur ces questions, soulignant que l'équité dans ce domaine ne constitue pas uniquement un défi technique, mais également une exigence morale et éthique. Elle nécessite un examen approfondi des interactions entre ces technologies et les diverses populations humaines, ainsi que de leur impact sur ces dernières. À travers cette perspective, cette thèse propose une étude détaillée sur l'élaboration de méthodologies de TAL équitables et sur l'évaluation des biais présents dans les systèmes actuels.
L'étude débute avec la présentation d'un algorithme novateur, conçu pour réduire les biais algorithmiques dans les classifieurs neuronaux multiclasses. Cette approche, adaptée aux applications de TAL à haut risque conformément aux réglementations européennes, surpasse les méthodes traditionnelles en matière de réduction des biais et de précision prédictive. Elle offre également une flexibilité dans l'ajustement des niveaux de régularisation pour chaque catégorie de sortie, se distinguant ainsi des limitations des techniques antérieures de débiaisage basées sur des modèles binaires.
Un aspect essentiel de cette recherche est l'analyse empirique du jeu de données Bios, comprenant des biographies LinkedIn et les professions correspondantes. Cette étude met en évidence l'effet de la taille du jeu de données d'entraînement sur les biais discriminatoires, tout en exposant les lacunes et incohérences des métriques d'équités standards, particulièrement dans le contexte des petits jeux de données. La nature imprévisible des biais, ainsi que leur dépendance vis-à-vis des métriques choisies, soulignent les limites actuelles des métriques d'équités pour appréhender de manière exhaustive le spectre des biais inhérents aux systèmes d'Intelligence Artificielle (IA). Cette prise de conscience a mené à des explorations dans le domaine de l'IA explicable, en quête d'une compréhension plus approfondie des biais, là où les métriques traditionnelles se révèlent insuffisantes.
Une réalisation centrale de cette thèse est la création de COCKATIEL, une méthode post-hoc d'explicabilité agnostique du modèle pour les modèles de TAL. Cette approche innovante intègre distinctement la découverte de concepts, leur classement et interprétation, s'harmonisant efficacement avec les explications conceptualisées par les humains, tout en restant fidèle aux principes fondamentaux des modèles. Les expériences menées dans des tâches d'analyse de sentiment ont montré la capacité supérieure de COCKATIEL à découvrir des concepts qui s'alignent sur ceux des humains dans les modèles Transformers sans aucune supervision.
De plus, la thèse contribue à créer un pont entre l'équité et l'explicabilité en introduisant TaCo, une nouvelle méthode pour neutraliser les biais dans les embeddings des modèles Transformers. En utilisant la stratégie d'explicabilité basée sur les concepts de COCKATIEL, cette approche identifie et élimine efficacement les concepts influençant principalement la prédiction de variables sensibles, produisant ainsi des embeddings moins biaisés. Cette méthode illustre le double rôle de l'explicabilité comme outil de compréhension et comme mécanisme pour renforcer l'équité dans les modèles d'IA.
En conclusion, cette thèse représente une contribution interdisciplinaire significative, alliant explicabilité et équité pour remettre en question et remodeler les paradigmes actuels de l'équité dans le TAL. Les méthodologies et critiques présentées ici contribuent profondément au discours en cours sur l'équité dans l'apprentissage automatique, offrant des solutions et des perspectives d'action pour la création de systèmes d'IA plus équitables et responsables. Les implications de cette recherche sont vastes et sont destinées à influencer les trajectoires de recherche futures et à guider le développement de technologies de TAL plus justes et responsables.