Intelligence artificielle : bienveillante ou pas ?

Intelligence artificielle : bienveillante ou pas ?

par Yann Arnaud
Doctorant en éthique des affaires, Université de Bordeaux dans the Conversation

Composée de « bene » (le bien) et « volens » (de bon gré), la bienveillance désigne la volonté du bien. Initialement décrite dans le courant philosophique, elle s’est émancipée dans de nombreuses disciplines telles que la gestion des ressources humaines, l’éducation, la psychologie et s’invite maintenant dans le domaine de l’intelligence artificielle (IA).
Aujourd’hui, l’IA et ses algorithmes sont omniprésents dans notre quotidien. La reconnaissance faciale, les chatbots, les assistants vocaux, les voitures autonomes constituent quelques exemples connus. L’arrivée récente des IA génératives, comme ChatGPT ou LLaMA, permettent d’aider et d’accompagner les humains dans leurs opérations intellectuelles (génération de contenus, traduction, etc.), ce qui bouleverse un peu plus nos interactions avec ces machines.

Néanmoins, dans quelle mesure peut-on parler de bienveillance pour qualifier les progrès des IA qui, par définition, ne sont autres que des algorithmes inspirés du cerveau humain ? A contrario, des IA capables de nuire pourraient-elles est être considérées comme malveillantes ? Se pencher sur ces questions nous permet de ne pas perdre de vu le sens que nous accordons aux mots pour penser et caractériser les opportunités et les enjeux des IA.

Lorsque l’on désigne un élément comme « artificiel », nous l’opposons communément au « naturel ». En effet, un artifice est un produit qui n’a pas de lien étroit avec le vivant, mais il peut tenter de le mimer ou de l’imiter. Dans cette perspective, les IA tentent de reproduire l’intelligence humaine à travers des algorithmes qui sont artificiellement développés par les humains (par exemple, l’apprentissage automatique, l’apprentissage profond). Les IA sont donc seulement des intelligences abiotiques, bien qu’il faille reconnaitre qu’elles ont parfois un fort pouvoir de prédication et d’imitation de l’humain.

En revanche, l’intelligence humaine est intimement liée à un certain nombre de facteurs psychologiques issus de son contenant comme des émotions, des affects ou des sentiments. Par essence, les IA en sont démunies puisqu’elles n’ont qu’une représentation partielle du monde, issue de textes et de chiffres. Les humains sont aussi liés à leur contenu qui les façonne, c’est-à-dire des événements exogènes (par exemple, des maladies) qui, eux, n’affectent pas directement les IA sur leur manière de s’exécuter.

L’un des atouts des IA est de corriger les biais cognitifs des humains en raison de leur absence de rationalité exclusive. Aujourd’hui, il est possible de concevoir une intelligence abiotique pour améliorer les conditions d’une intelligence biotique, si bien que des auteurs scientifiques comme Joël de Rosnay évoque un véritable « état symbiotique » entre l’homme et les machines. Pour d’autres, affirmer que les IA remplaceront à terme l’intelligence humaine est une aberrance car elles ont aussi leurs biais liés aux données non neutres qu’elles reçoivent des humains eux-mêmes.

En 1992, le psychologue social israélien Shalom H. Schwartz montre que la bienveillance est l’une des dix valeurs fondamentales de l’être humain dans sa théorie des valeurs humaines basiques. La bienveillance, qui implique certains comportements tels que être serviable, loyal, indulgent ou encore responsable, préserve et améliore le bien-être d’autrui.

Les IA, semble-t-il, sont issues d’une création bienveillante des humains puisqu’elles sont capables de maintenir et d’améliorer son sort. Cependant, ces dernières ne peuvent naître et évoluer seules ; elles ont besoin de données générées par l’humain ou son activité pour être expérimentées. Jusqu’à présent, l’humain reste l’expérimentateur et l’expérimenté de sa condition alors que les IA ne sont seulement que le deuxième versant. Il s’agit ici d’une différence fondamentale puisque l’expérimentateur, par définition, doit faire preuve de curiosité, de perspicacité, d’intuition et de créativité dans ses modes d’acquisition de la connaissance. Les IA ne sont pas encore capables d’atteindre de tels niveaux de raisonnement.

Ainsi, les IA ne peuvent donc pas être rigoureusement qualifiées de bienveillantes ou de son inverse. Considérer les IA comme bienveillantes (ou malveillantes) reviendrait à dire qu’elles n’ont pas besoin d’esprit humain pour atteindre un tel niveau de cognition. On pourrait ainsi se fier à elles plutôt qu’à son propre ressenti, ce que le philosophe français Pierre Cassou-Noguès évoque à travers le « syndrome du thermomètre » dans son essai La bienveillance des machines.

Or, pour être bienveillant, comme l’explique le philosophe Ghislain Deslandes, il faut aussi avoir un esprit car la bienveillance est étroitement liée aux notions d’empathie, d’indulgence et du souci, ce qui suggère une « connaissance intuitive et adéquate de l’essence des choses ».

Les IA en sont spirituellement démunies. La disposition à bien veiller ou mal veiller est étrangère à elles et non prise en considération dans leur fonctionnement interne.
Bien que la bienveillance (et son inverse) n’existe pas à l’intérieur des IA, ses répercussions extérieures le sont-elles pour autant ? À bien des égards, les IA apportent des aspects positifs et négatifs aux humains, ce qui engendre un certain degré d’interaction avec elles selon les usages (santé, militaire, etc.). Les conséquences extérieures de ces usages peuvent être perçues comme bienveillantes (ou non) par les individus car ils impactent ces derniers en modifiant leurs états d’âme (humeurs, sentiments, etc.).

Pour autant, qualifier une action bienveillante de la part d’une IA (par exemple, le fait qu’elle puisse diagnostiquer un cancer) ne fait pas d’elle une IA bienveillante puisque, encore une fois, elle n’est pas un humain comme les autres. Seules les répercussions liées à son usage (la détection du cancer a débouché vers un traitement ad hoc) peuvent être perçues comme bienveillantes par les humains car elles participent à la préservation et/ou à l’amélioration de leurs conditions de vie.

Cet éclairage entre les IA et la notion de bienveillance offre une perspective plus fine sur l’ordre des choses. L’humain, en tant qu’être pensant, a la mainmise sur la conception et le développement des IA. Une fois les algorithmes exécutés, il en va à chacun de considérer les répercussions comme bienveillantes ou non par rapport à sa condition.

Ainsi, la primauté de la responsabilité humaine sur les IA doit être conservée car ce n’est bien qu’à l’extérieur de ces algorithmes que nous pouvons avoir un rôle à jouer. À elles seules, les IA sont indifférentes à toute bienveillance car elles en sont intrinsèquement privées. Leur bon usage nécessite d’entretenir nos expériences de pensées comme la critique, le doute et la recherche du sens, c’est-à-dire notre capacité à philosopher et à prendre soin de nous-mêmes.

Intelligence artificielle : bienveillante ou pas ?

Intelligence artificielle : bienveillante ou pas ?

par Yann Arnaud
Doctorant en éthique des affaires, Université de Bordeaux dans the Conversation

Composée de « bene » (le bien) et « volens » (de bon gré), la bienveillance désigne la volonté du bien. Initialement décrite dans le courant philosophique, elle s’est émancipée dans de nombreuses disciplines telles que la gestion des ressources humaines, l’éducation, la psychologie et s’invite maintenant dans le domaine de l’intelligence artificielle (IA).
Aujourd’hui, l’IA et ses algorithmes sont omniprésents dans notre quotidien. La reconnaissance faciale, les chatbots, les assistants vocaux, les voitures autonomes constituent quelques exemples connus. L’arrivée récente des IA génératives, comme ChatGPT ou LLaMA, permettent d’aider et d’accompagner les humains dans leurs opérations intellectuelles (génération de contenus, traduction, etc.), ce qui bouleverse un peu plus nos interactions avec ces machines.

Néanmoins, dans quelle mesure peut-on parler de bienveillance pour qualifier les progrès des IA qui, par définition, ne sont autres que des algorithmes inspirés du cerveau humain ? A contrario, des IA capables de nuire pourraient-elles est être considérées comme malveillantes ? Se pencher sur ces questions nous permet de ne pas perdre de vu le sens que nous accordons aux mots pour penser et caractériser les opportunités et les enjeux des IA.

Lorsque l’on désigne un élément comme « artificiel », nous l’opposons communément au « naturel ». En effet, un artifice est un produit qui n’a pas de lien étroit avec le vivant, mais il peut tenter de le mimer ou de l’imiter. Dans cette perspective, les IA tentent de reproduire l’intelligence humaine à travers des algorithmes qui sont artificiellement développés par les humains (par exemple, l’apprentissage automatique, l’apprentissage profond). Les IA sont donc seulement des intelligences abiotiques, bien qu’il faille reconnaitre qu’elles ont parfois un fort pouvoir de prédication et d’imitation de l’humain.

En revanche, l’intelligence humaine est intimement liée à un certain nombre de facteurs psychologiques issus de son contenant comme des émotions, des affects ou des sentiments. Par essence, les IA en sont démunies puisqu’elles n’ont qu’une représentation partielle du monde, issue de textes et de chiffres. Les humains sont aussi liés à leur contenu qui les façonne, c’est-à-dire des événements exogènes (par exemple, des maladies) qui, eux, n’affectent pas directement les IA sur leur manière de s’exécuter.

L’un des atouts des IA est de corriger les biais cognitifs des humains en raison de leur absence de rationalité exclusive. Aujourd’hui, il est possible de concevoir une intelligence abiotique pour améliorer les conditions d’une intelligence biotique, si bien que des auteurs scientifiques comme Joël de Rosnay évoque un véritable « état symbiotique » entre l’homme et les machines. Pour d’autres, affirmer que les IA remplaceront à terme l’intelligence humaine est une aberrance car elles ont aussi leurs biais liés aux données non neutres qu’elles reçoivent des humains eux-mêmes.

En 1992, le psychologue social israélien Shalom H. Schwartz montre que la bienveillance est l’une des dix valeurs fondamentales de l’être humain dans sa théorie des valeurs humaines basiques. La bienveillance, qui implique certains comportements tels que être serviable, loyal, indulgent ou encore responsable, préserve et améliore le bien-être d’autrui.

Les IA, semble-t-il, sont issues d’une création bienveillante des humains puisqu’elles sont capables de maintenir et d’améliorer son sort. Cependant, ces dernières ne peuvent naître et évoluer seules ; elles ont besoin de données générées par l’humain ou son activité pour être expérimentées. Jusqu’à présent, l’humain reste l’expérimentateur et l’expérimenté de sa condition alors que les IA ne sont seulement que le deuxième versant. Il s’agit ici d’une différence fondamentale puisque l’expérimentateur, par définition, doit faire preuve de curiosité, de perspicacité, d’intuition et de créativité dans ses modes d’acquisition de la connaissance. Les IA ne sont pas encore capables d’atteindre de tels niveaux de raisonnement.

Ainsi, les IA ne peuvent donc pas être rigoureusement qualifiées de bienveillantes ou de son inverse. Considérer les IA comme bienveillantes (ou malveillantes) reviendrait à dire qu’elles n’ont pas besoin d’esprit humain pour atteindre un tel niveau de cognition. On pourrait ainsi se fier à elles plutôt qu’à son propre ressenti, ce que le philosophe français Pierre Cassou-Noguès évoque à travers le « syndrome du thermomètre » dans son essai La bienveillance des machines.

Or, pour être bienveillant, comme l’explique le philosophe Ghislain Deslandes, il faut aussi avoir un esprit car la bienveillance est étroitement liée aux notions d’empathie, d’indulgence et du souci, ce qui suggère une « connaissance intuitive et adéquate de l’essence des choses ».

Les IA en sont spirituellement démunies. La disposition à bien veiller ou mal veiller est étrangère à elles et non prise en considération dans leur fonctionnement interne.
Bien que la bienveillance (et son inverse) n’existe pas à l’intérieur des IA, ses répercussions extérieures le sont-elles pour autant ? À bien des égards, les IA apportent des aspects positifs et négatifs aux humains, ce qui engendre un certain degré d’interaction avec elles selon les usages (santé, militaire, etc.). Les conséquences extérieures de ces usages peuvent être perçues comme bienveillantes (ou non) par les individus car ils impactent ces derniers en modifiant leurs états d’âme (humeurs, sentiments, etc.).

Pour autant, qualifier une action bienveillante de la part d’une IA (par exemple, le fait qu’elle puisse diagnostiquer un cancer) ne fait pas d’elle une IA bienveillante puisque, encore une fois, elle n’est pas un humain comme les autres. Seules les répercussions liées à son usage (la détection du cancer a débouché vers un traitement ad hoc) peuvent être perçues comme bienveillantes par les humains car elles participent à la préservation et/ou à l’amélioration de leurs conditions de vie.

Cet éclairage entre les IA et la notion de bienveillance offre une perspective plus fine sur l’ordre des choses. L’humain, en tant qu’être pensant, a la mainmise sur la conception et le développement des IA. Une fois les algorithmes exécutés, il en va à chacun de considérer les répercussions comme bienveillantes ou non par rapport à sa condition.

Ainsi, la primauté de la responsabilité humaine sur les IA doit être conservée car ce n’est bien qu’à l’extérieur de ces algorithmes que nous pouvons avoir un rôle à jouer. À elles seules, les IA sont indifférentes à toute bienveillance car elles en sont intrinsèquement privées. Leur bon usage nécessite d’entretenir nos expériences de pensées comme la critique, le doute et la recherche du sens, c’est-à-dire notre capacité à philosopher et à prendre soin de nous-mêmes.

Bac 2021 : une correction bienveillante !

Bac 2021 : une correction bienveillante !

La correction au bac s’appuiera de plus en plus sur le contrôle continu cette année du fait des difficultés liées à la crise sanitaire a déclaré le ministre de l’éducation.

Le ministre souhaite une correction bienveillante pourrait conduire à un nouveau record de réussite dépassant encore les 95,7 % de l’année 2020. Cela d’autant plus que l’examen se situe en période préélectorale.

«J’entends les lycéens, on sait tous qu’ils ont vécu une année difficile. Même si on a réussi pendant toute l’année à garder les lycées ouverts, les choses n’ont pas été tout à fait normales», a indiqué Jean-Michel Blanquer ce mercredi soir sur France 2. Il a rappelé la suppression des épreuves de spécialité prévues initialement en mars. Mais les épreuves du bac de français en première ainsi que le grand oral et l’épreuve de philosophie en terminale sont maintenus avec des aménagements, notamment pour cette dernière : les élèves pourront garder la meilleure note entre celle de l’année et celle de l’examen. Enfin, c’est un soulagement pour les lycéens du privé hors contrat qui n’auront pas à passer les épreuves du tronc commun. Ils passeront les épreuves de spécialité les 7 et 8 juin, le grand oral et la philosophie.

» Biden : condamné à une politique bienveillante et rassurante »

« Biden : condamné à une politique bienveillante et rassurante »

 

 

Pour le politologue américain, John Zogby, fondateur et dirigeant de l’entreprise de sondages et d’analyse stratégique Zogby Analytics-The Zogby Poll, Joe Biden a « le tempérament et l’empathie pour transcender le tribalisme qui caractérise aujourd’hui la vie politique américaine ». ( Interview dans l’opinion)

 

Comment Joe Biden doit-il gérer sa période de transition ?

Il doit se montrer calme, rassurant et contrôler les événements. Il faut qu’il adopte l’approche d’Abraham Lincoln après la guerre civile (12 avril 1861-13 mai 1865) : «  Sans malveillance à l’égard de quiconque, avec bienveillance pour tous » pour reprendre ses mots, lors du discours d’intronisation de son second mandat, le 4 mars 1865. Commence maintenant le processus de rencontres avec les leaders du Congrès des deux partis. Quant aux supporteurs de la droite dure de Donald Trump, je ne crois pas qu’il puisse faire quoi que ce soit avec eux si ce n’est les isoler. Ce serait bien pour lui de commencer publiquement à s’entourer de gens de la génération des millenials, que cela soit dans son cabinet et parmi ses proches conseillers.

Peut-on s’attendre à d’autres surprises comme celle qui verrait des délégués du collège électoral de certains Etats s’affranchir du vote comme cela s’est passé avec une dizaine d’entre eux (dont huit démocrates) en 2016 ?

Des délégués peuvent changer leur vote mais ils se doivent en théorie d’être loyal à leur parti et à ses dirigeants. Vu l’antipathie générale des démocrates à l’égard de Donald Trump, il y a peu de chances que cela se reproduise.

La Cour suprême des Etats-Unis peut-elle changer des résultats ?

C’est difficile d’imaginer que la Cour suprême soit impliquée dans cette élection car il n’y a aucune preuve que des droits civiques aient été violés ou que des lois aient été enfreintes lors du scrutin présidentiel. Les Etats ont le pouvoir de gérer les élections qui se déroulent chez eux.

Même si Donald Trump reconnaît sa défaite, comment va-t-il pouvoir gouverner avec une majorité plus faible que prévu à la Chambre des représentants et le Sénat contrôlé par l’opposition républicaine ?

Il peut passer outre les dirigeants du Congrès et tranquilliser les modérés des deux partis en leur expliquant qu’il a un programme à faire appliquer. Le travail qui l’attend n’est pas facile mais il doit agir rapidement pour s’assurer le plus d’appui bipartisan possible.

Ne risque-t-il pas alors de s’aliéner l’aile progressiste du parti démocrate ?

Il devra inclure des républicains au sein de son cabinet tout comme des supporteurs de Bernie Sanders et d’Elizaberh Warren, quitte à les inclure eux-mêmes dans son équipe.

Y a-t-il des inquiétudes aux Etats-Unis quant à la santé de Joe Biden ? Il semble avoir eu quelques absences durant cette campagne…

Les sondages à la sortie des urnes ont montré que les électeurs n’étaient inquiets ni de sa santé physique, ni de sa santé mentale. Mais il devra montrer régulièrement qu’il est à la fois en forme et solide.

 

 

Procès Jean-Jacques Urvoas : la bienveillante justice pour les politiques

Procès Jean-Jacques Urvoas : la bienveillante justice pour les politiques

 

Comme il fallait s’y attendre la très sulfureuse cour de justice de la république a montré la plus grande bienveillance à l’égard de l’ex ministre de la justice. Depuis l’existence de cette justice d’exception ? spécialement conçue pour juger les politiques, aucune condamnation significative n’a été prononcée. Pas étonnant ? Cette cour de justice très spéciale est aussi composée d’élus peu disposés  à sanctionner leurs collègues. La peine prononcée à l’égard de l’ex ministre  français de la Justice Jean-Jacques Urvoas est une fois de plus symbolique. N’importe quel citoyen lambda dans ce genre d’affaire aurait écopé d’un minimum de six mois de prison ferme. D’abord le procureur n’avait demandé qu’un an de prison avec sursis et finalement la sanction finit en eau de boudin avec un mois de prison avec sursis pour violation du secret professionnel dans une affaire impliquant également le député de la majorité Thierry Solère (La République en marche).

L’ancien élu socialiste s’est également vu infliger une amende de 5.000 euros par la Cour de justice de la République (CJR), seule juridiction habilitée à juger des délits commis par des ministres dans l’exercice de leur fonction. La peine est inférieure aux demandes du procureur général, François Molins, qui avait requis jeudi un an de prison avec sursis à l’encontre de celui qui fut garde des Sceaux à la fin du quinquennat de François Hollande, en 2016-2017.

Jean-Jacques Urvoas est condamné pour avoir transmis à Thierry Solère, en mai 2017, une fiche de la Direction des affaires criminelles et des grâces sur l’avancement d’une enquête visant le député des Hauts-de-Seine, qui appartenait alors aux Républicains, puis un courriel via la messagerie chiffrée Telegram.

Soupçonné de fraude fiscale, Thierry Solère faisait l’objet d’une enquête préliminaire, qui est passée en février dernier au stade de l’information judiciaire. Le ministre de la Justice peut, dans le cadre de ses fonctions, recevoir des informations sur des enquêtes en cours du fait du lien de subordination qui place les procureurs et procureurs généraux sous son autorité.

La défense n’a jamais contesté les faits mais estimait que Jean-Jacques Urvoas n’était alors tenu par aucun secret professionnel !!!

Organisation de l’Élysée ; la Cour des comptes bienveillante

Organisation de l’Élysée ; la Cour des comptes bienveillante

 

 

 

La cour des comptes se montre un peu bienveillante vis-à-vis des dépenses de l’Elysée. En effet cette énorme machine qui fait double emploi avec le gouvernemenet dépense quand même 100 millions par an environ et emploie plus de 800 personnes. Des effectifs qui dépassent ceux de tout le gouvernement et qui démontre le centralisme démocratique proche en fait d’une monarchie républicaine.  Certes de améliorations ont été constatées es dernières années mais l’Elysées demeure encore la cathédrale étatique qui dirige le pays.  “La Cour constate que les progrès engagés ont été poursuivis, mais peuvent être encore complétés sur le plan de l’organisation, de la gestion et de l’immobilier”, écrit la cour des comptes  à l’occasion de la publication mardi de son rapport annuel sur les dépenses de la présidence. Le rapport porte sur l’exercice 2017, à cheval sur les quinquennats de François Hollande et d’Emmanuel Macron. Alors que les dépenses pour 2017 avaient été fixées à 100 millions d’euros, un prélèvement sur les réserves de 2,1 millions a été nécessaire et la dotation pour 2018 a été fixée à 103 millions, note la Cour. Elle estime que plusieurs dépenses devraient à l’avenir être intégrées au budget de l’Elysée pour mieux refléter la réalité. La présidence comptait 822 agents (en équivalent temps plein) au 31 décembre, soit 30 de plus qu’un an plus tôt, la hausse concernant particulièrement la sécurité informatique et le groupe de sécurité de la présidence de la République (GSPR). Les dépenses consacrées aux déplacements présidentiels sont quasi-stables par rapport à 2016, précise-t-elle.

Comme depuis plusieurs années, la Cour appelle de ses vœux une stratégie globale et à long terme en matière immobilière et précise qu’un “schéma” est à l’étude.