L’éducation confrontée au biais de l’intelligence artificielle

L’éducation confrontée au biais de l’intelligence artificielle

Il est impératif que les établissements, dans l’enseignement scolaire comme dans le supérieur, encouragent une culture de responsabilité dans le développement de l’intelligence artificielle, prévient Anthony Hié, directeur de la transformation digitale du groupe d’enseignement supérieur Excelia, dans une tribune au « Monde ».

L’intelligence artificielle (IA) est certainement l’une des avancées technologiques les plus significatives de notre ère. Elle a révolutionné la manière dont nous interagissons avec la technologie, en influençant des domaines allant de la médecine à la finance, en passant par le divertissement et l’éducation.

Derrière l’omniprésence de l’IA, accentuée par l’arrivée des IA génératives [capables de générer des données], les biais de l’IA restent un défi majeur. Il est impératif que l’éducation, dans toutes ses dimensions, s’attaque à cette problématique de manière proactive et éclairée.

Les biais dans l’IA se forment au stade de l’entraînement des modèles. Si les données d’entraînement comportent des préjugés ou des discriminations, l’IA peut les reproduire sans discernement. Par exemple, les systèmes de reconnaissance faciale ont été accusés de présenter des taux d’erreur plus élevés pour les personnes de couleur, en partie à cause des ensembles de données biaisés utilisés pour les former. Cela souligne l’importance cruciale de s’attaquer à cette question.

Pour comprendre les biais de l’IA, il est essentiel de saisir comment ils émergent. Les modèles d’IA apprennent à partir de données réelles, qu’ils utilisent pour prendre des décisions ou faire des recommandations. Si ces données sont imprégnées de stéréotypes, d’injustices, ou de discriminations, l’IA peut reproduire ces mêmes problèmes. Par conséquent, il est essentiel de s’attaquer aux biais à la source, c’est-à-dire les données d’entraînement.

Le projet Gender Shades, lancé par le Massachusetts Institute of Technology, évalue la précision des logiciels de classification de genre alimentés par l’IA. Cette étude a révélé que les entreprises soumises à ces évaluations obtenaient des résultats de reconnaissance faciale nettement meilleurs pour les hommes que pour les femmes, avec une différence de 8,1 % à 20,6 % dans les taux d’erreur. Cette étude concernant l’examen du logiciel d’analyse faciale révèle également un taux d’erreur surprenant de 0,8 % pour les hommes à la peau claire et de 34,7 % pour les femmes à la peau foncée1.

Les conclusions du projet mettaient en évidence le potentiel d’abus de la technologie de l’analyse faciale, que ce soit aux mains de gouvernements autoritaires, d’individus malveillants ou d’entreprises opportunistes. En fin de compte, le projet soulignait la vulnérabilité des algorithmes à la corruption et à la partialité.

La suite est réservée à nos abonnés.
Déjà abonné ?
Se connecter

Biais cognitifs: la relation machine et cerveaux

 

Le sociologue poursuit ses travaux sur les biais intellectuels et les croyances. Mais il leur donne une ampleur nouvelle dans « Apocalypse cognitive », réflexion sur les risques cruciaux que nous font courir nos intuitions erronées.( Analyse dans le Monde, extraits )

Contraintes sanitaires obligent, la rencontre s’est faite sur écran, en « distanciel » comme dit la novlangue. Situation banale qui, avec Gérald Bronner, cesse de l’être. Elle se révèle, en réalité, particulièrement pertinente. Car l’entretien à distance crée une combinaison curieuse de proximité et d’éloignement, or ces éléments se tiennent, de plusieurs manières, au cœur de sa réflexion.

En effet, Apocalypse cognitive, son treizième ouvrage, accorde une place centrale aux écrans, à l’attraction des images et de l’immédiat. Le sociologue en scrute méfaits et bienfaits, cherche ce qu’ils révèlent de notre humanité, de notre fonctionnement cérébral, pour le pire comme le meilleur, aussi lucidement que possible. Soucieux de rendre ce constat utile, même par sa face sombre, il examine également les moyens de mettre au point, pour l’avenir, un bon usage de nos machines et de nos neurones, afin de voir advenir, plutôt qu’une régression, un nouvel essor de la civilisation.

La proximité de l’apparence, la distance de l’arrière-plan concernent aussi le parcours personnel de ce chercheur, professeur de sociologie à l’université de Paris (anciennement Denis-Diderot), de plus en plus présent, d’année en année, dans les médias, les librairies et les débats publics, depuis que La Démocratie des crédules (PUF, 2013), couronné par cinq prix, l’a fait connaître bien au-delà des cercles universitaires.

Un « transclasse »

A l’écran, donc, l’image d’un quinquagénaire souriant, presque juvénile. Sa simplicité fait vite oublier qu’il est couvert de titres et de fonctions académiques et que la liste de ses contributions savantes dans les revues de recherche occupe des pages. Et pourtant, ce n’est pas un « héritier ». Rien, à distance, ne le prédisposait à devenir ce qu’il est aujourd’hui.

Né dans une famille modeste de la banlieue de Nancy, le sociologue remarque aujourd’hui qu’il « coche toutes les cases » de ce qui définit un « transclasse ». Toutes, sauf celles, pourtant habituelles, du dolorisme et de la honte. Avoir vécu d’abord sans livres, sans musique, sans église, sans syndicat ne lui inspire aucune gêne. Il y voit au contraire une forme de chance, la clé d’un « nomadisme social » qui lui donne aujourd’hui le sentiment, en n’étant jamais nulle part tout à fait à sa place, de pouvoir observer partout le jeu social avec « une distance amusée ».

Difficile de savoir dans quelle mesure cette trajectoire personnelle a conduit Gérald Bronner à se défier du déterminisme social, façon Bourdieu, et à privilégier la marge de décision et de responsabilité des acteurs, dans le sillage de son maître, le philosophe et sociologue Raymond Boudon (1934-2013). En tout cas, il reconnaît volontiers un lien direct entre sa biographie et son champ de recherche, délimité par nos erreurs dues aux biais cognitifs, et nos croyances déraisonnables, dues à notre difficulté à endurer l’incertitude. « J’ai été mon premier laboratoire », confie-t-il.

 

Statistiques du Coronavirus : « Des biais qui faussent les chiffres »

Le dépistage des cas de Covid-19 sans évaluation de la charge infectieuse est un non-sens épidémiologique, alertent le vétérinaire Patrick Guérin et le médecin Didier Sicard, dans une tribune au « Monde ».

Les meilleures décisions lors d’une crise sanitaire sont fondées sur des données scientifiques solides pour être ensuite arbitrées politiquement. Or, si les décisions concernant la gestion de la crise du Covid-19 depuis mi-mars reposaient sur le nombre de personnes admises en réanimation et le nombre de décès liés à ce virus, les autorités sanitaires ont changé d’indicateur pour s’appuyer essentiellement sur le taux d’incidence.

Cet indicateur, diffusé et commenté chaque soir par les médias, recense le nombre de personnes testées « positives » au Covid-19 rapporté à une population donnée (100 000 personnes testées).

Simplisme excessif

Pour déterminer ce taux, les autorités sanitaires s’appuient sur le test dit RT-PCR. De nombreux scientifiques, dont l’Ecole de santé publique de l’université Harvard, repris dans un article du New York Times du 29 août 2020, ont mis en évidence ses limites, en raison du simplisme excessif de sa réponse – la personne est dite « positive » indépendamment de la charge virale (quantité de virus présent) et, par conséquent, de sa contagiosité.

Or le coefficient d’amplification dit « CT », c’est-à-dire le chiffre à partir duquel apparaît la fluorescence, est essentiel. Plus le chiffre est bas, plus la charge virale est élevée, donc la contagiosité, et inversement.

En effet, si la zoonose Covid-19 est due au virus SARS-CoV-2, l’inverse n’est pas vrai : la présence de fragments de SARS-CoV-2 dans les fosses nasales n’entraîne pas automatiquement la maladie, ni la contamination. Or, ce CT n’est pas harmonisé, variant de 20 à plus de 40, selon les laboratoires de biologie médicale et selon les pays, alors qu’il s’agit d’une politique de santé publique.

Baisse du chômage en juillet: un biais statistique

Baisse du chômage en juillet: un biais statistique

 

Il y a évidemment des limites aux statistiques auxquelles on peut faire dire parfois n’importe quoi. Ainsi cette baisse du chômage constatée en juillet la principale catégorie A. En réalité les chômeurs sont  devenus précaires soit soutenus par les mesures de chômage partiel et passés dans les catégories B et C c’est-à-dire ayant une activité réduite.

Selon les données publiées mercredi par le ministère du Travail et Pôle emploi, le nombre de demandeurs d’emploi en catégorie A (sans aucune activité) a enregistré en juillet un fort recul pour le troisième mois consécutif, avec 174.300 personnes de moins par rapport à juin.

Malgré ce nouveau reflux, principalement lié comme en mai et juin au fait que de nombreux demandeurs d’emploi ont repris une activité réduite et ont donc basculé vers les catégories B et C, le nombre d’inscrits dans la catégorie A reste très élevé, à 4,05 millions.

De son côté, le nombre cumulé de demandeurs d’emploi tenus de rechercher un emploi – c’est-à-dire relevant des trois catégories A, B et C – a reculé pour la première fois depuis mars, avec une baisse de 0,7% (soit 44.900 inscrits de moins), pour s’établir à 6,112 millions.

Le nombre d’inscrits dans ces trois catégories avait atteint un pic historique fin juin, à 6,157 millions.