L’éducation confrontée au biais de l’intelligence artificielle

L’éducation confrontée au biais de l’intelligence artificielle

Il est impératif que les établissements, dans l’enseignement scolaire comme dans le supérieur, encouragent une culture de responsabilité dans le développement de l’intelligence artificielle, prévient Anthony Hié, directeur de la transformation digitale du groupe d’enseignement supérieur Excelia, dans une tribune au « Monde ».

L’intelligence artificielle (IA) est certainement l’une des avancées technologiques les plus significatives de notre ère. Elle a révolutionné la manière dont nous interagissons avec la technologie, en influençant des domaines allant de la médecine à la finance, en passant par le divertissement et l’éducation.

Derrière l’omniprésence de l’IA, accentuée par l’arrivée des IA génératives [capables de générer des données], les biais de l’IA restent un défi majeur. Il est impératif que l’éducation, dans toutes ses dimensions, s’attaque à cette problématique de manière proactive et éclairée.

Les biais dans l’IA se forment au stade de l’entraînement des modèles. Si les données d’entraînement comportent des préjugés ou des discriminations, l’IA peut les reproduire sans discernement. Par exemple, les systèmes de reconnaissance faciale ont été accusés de présenter des taux d’erreur plus élevés pour les personnes de couleur, en partie à cause des ensembles de données biaisés utilisés pour les former. Cela souligne l’importance cruciale de s’attaquer à cette question.

Pour comprendre les biais de l’IA, il est essentiel de saisir comment ils émergent. Les modèles d’IA apprennent à partir de données réelles, qu’ils utilisent pour prendre des décisions ou faire des recommandations. Si ces données sont imprégnées de stéréotypes, d’injustices, ou de discriminations, l’IA peut reproduire ces mêmes problèmes. Par conséquent, il est essentiel de s’attaquer aux biais à la source, c’est-à-dire les données d’entraînement.

Le projet Gender Shades, lancé par le Massachusetts Institute of Technology, évalue la précision des logiciels de classification de genre alimentés par l’IA. Cette étude a révélé que les entreprises soumises à ces évaluations obtenaient des résultats de reconnaissance faciale nettement meilleurs pour les hommes que pour les femmes, avec une différence de 8,1 % à 20,6 % dans les taux d’erreur. Cette étude concernant l’examen du logiciel d’analyse faciale révèle également un taux d’erreur surprenant de 0,8 % pour les hommes à la peau claire et de 34,7 % pour les femmes à la peau foncée1.

Les conclusions du projet mettaient en évidence le potentiel d’abus de la technologie de l’analyse faciale, que ce soit aux mains de gouvernements autoritaires, d’individus malveillants ou d’entreprises opportunistes. En fin de compte, le projet soulignait la vulnérabilité des algorithmes à la corruption et à la partialité.

La suite est réservée à nos abonnés.
Déjà abonné ?
Se connecter

Valls pour une gauche « confrontée au réel » ou la fin du PS

 

 

Comme d’habitude,  Valls n’a pas pris des pincettes pour contextualiser le départ de Taubira et au-delà pour attaquer la gauche de la gauche. Il souhaite que cette gauche se confronte au réel au lieu de fuir ses responsabilités ou de se réfugier dans des discours abstraits et chimériques. Plus vulgairement on pourrait considérer que Valls estime que Taubira, les frondeurs et autres gauches de la gauche sont à côté de leurs pompes et qu’il est grand temps de prendre en compte les réalités pour le PS, à moins de disparaître.  Manuel Valls n’a sans doute pas tort de ce point de vue ; en effet ce qui est en cause aujourd’hui l’éclatement voire la disparition totale du parti socialiste. Comment pourrait en effet être conciliables le courant marxiste des frondeurs, le courant modéré des sociaux-démocrates et le courants social libéral ?  Certains objecteront qu’en réalité le parti socialiste n’a jamais eu de ligne claire même depuis sa création. Sa cohésion était toutefois assurée grâce à des textes de congrès très gauchistes mais qui n’ont jamais empêché le PS une fois au pouvoir d’abandonner ses orientations (ou de les mettre en œuvre que pendant quelques mois avant de se contredire comme Mitterrand par exemple). Face à ceux qui perçoivent dans le  départ de Taubira comme la preuve d’une droitisation de l’exécutif, le Premier ministre a défendu la gestion d’une gauche « confrontée au réel » dans des situations sécuritaire et économique difficiles.   »C’est l’avenir de la France qui me préoccupe, pas l’avenir de la gauche », a-t-il dit lors de ses vœux à la presse. « La gauche au pouvoir est confrontée au réel », a-t-il insisté. « Et parce qu’elle gouverne dans une période particulièrement difficile, elle doit tenir. Il y a toujours la tentation de partir. Il y a toujours la tentation de fuir ses responsabilités  Engageant un dialogue à distance avec son ancienne ministre, Manuel Valls a estimé que « résister aujourd’hui, ça n’est pas proclamer, ça n’est pas faire des discours, résister, c’est se confronter à la réalité du pays ».  Christiane Taubira a reçu le soutien de personnalités à la gauche du PS, à l’instar des anciens ministres « frondeurs » Benoît Hamon, Arnaud Montebourg et Aurélie Filippetti.   »Il y a une forme de fracture très nette et la démission de Christiane Taubira est le symbole de cette crise politique majeure qui fracture aujourd’hui la gauche », a dit cette dernière sur BFM TV et RMC Info.  Ce départ apporte de la « clarté » sur la ligne gouvernementale, a considéré pour sa part le président du groupe PS à l’Assemblée nationale, Bruno Le Roux.