IA: Une intelligence limitée

IA: Une intelligence limitée

Les techniques actuelles d’intelligence artificielle, même avec toujours plus de puissance informatique, resteront intellectuellement limitées. Par Jean-Louis Dessalles, Institut Mines-Télécom (IMT)

Il y a près de 10 ans, en 2012, le monde scientifique s’émerveillait des prouesses de l’apprentissage profond (le deep learning). Trois ans plus tard, cette technique permettait au programme AlphaGo de vaincre les champions de Go. Et certains ont pris peur. Elon Musk, Stephen Hawking et Bill Gates s’inquiétèrent d’une fin prochaine de l’humanité, supplantée par des intelligences artificielles échappant à tout contrôle.

N’était-ce pas un peu exagéré ? C’est précisément ce que pense l’IA. Dans un article qu’il a écrit en 2020 dans The Guardian, GPT-3, ce gigantesque réseau de neurones doté de 175 milliards de paramètres explique :

« Je suis ici pour vous convaincre de ne pas vous inquiéter. L’intelligence artificielle ne va pas détruire les humains. Croyez-moi. »
En même temps, nous savons que la puissance des machines ne cesse d’augmenter. Entraîner un réseau comme GPT-3 était impensable, littéralement, il y a encore cinq ans. Impossible de savoir de quoi seront capables ses successeurs dans cinq, dix ou vingt ans. Si les réseaux de neurones actuels peuvent remplacer les dermatologues, pourquoi ne finiraient-ils pas par nous remplacer tous ?
Y a-t-il des compétences mentales humaines qui restent strictement hors d’atteinte de l’intelligence artificielle ?

On pense immédiatement à des aptitudes impliquant notre « intuition » ou notre « créativité ». Pas de chance, l’IA prétend nous attaquer sur ces terrains-là également. Pour preuve, le fait que des œuvres créées par programmes se sont vendues fort cher, certaines atteignant presque le demi-million de dollars. Côté musique, chacun se fera bien sûr son opinion, mais on peut déjà reconnaître du bluegrass acceptable ou du quasi Rachmaninoff dans les imitations du programme MuseNet créé, comme GPT-3, par OpenAI.

Devrons-nous bientôt nous soumettre avec résignation à l’inévitable suprématie de l’intelligence artificielle ? Avant d’en appeler à la révolte, essayons de regarder à quoi nous avons affaire. L’intelligence artificielle repose sur plusieurs techniques, mais son succès récent est dû à une seule : les réseaux de neurones, notamment ceux de l’apprentissage profond. Or un réseau de neurones n’est rien de plus qu’une machine à associer. Le réseau profond qui fit parler de lui en 2012 associait des images : un cheval, un bateau, des champignons, aux mots correspondants. Pas de quoi crier au génie.

Sauf que ce mécanisme d’association possède la propriété un peu miraculeuse d’être « continue ». Vous présentez un cheval que le réseau n’a jamais vu, il le reconnaît en tant que cheval. Vous ajoutez du bruit à l’image, cela ne le gêne pas. Pourquoi ? Parce que la continuité du processus vous garantit que si l’entrée du réseau change un peu, sa sortie changera peu également. Si vous forcez le réseau, qui hésite toujours, à opter pour sa meilleure réponse, celle-ci ne variera probablement pas : un cheval reste un cheval, même s’il est différent des exemples appris, même si l’image est bruitée.

Bien, mais pourquoi dire qu’un tel comportement associatif est « intelligent » ? La réponse semble évidente : il permet de diagnostiquer les mélanomes, d’accorder des prêts bancaires, de maintenir un véhicule sur la route, de détecter une pathologie dans les signaux physiologiques, et ainsi de suite. Ces réseaux, grâce à leur pouvoir d’association, acquièrent des formes d’expertise qui demandent aux humains des années d’études. Et lorsque l’une de ces compétences, par exemple la rédaction d’un article de presse, semble résister un temps, il suffit de faire ingurgiter à la machine encore davantage d’exemples, comme ce fut fait avec GPT-3, pour que la machine commence à produire des résultats convaincants.

Est-ce vraiment cela, être intelligent ? Non. Ce type de performance ne représente au mieux qu’un petit aspect de l’intelligence. Ce que font les réseaux de neurones ressemble à de l’apprentissage par cœur. Ce n’en est pas, bien sûr, puisque ces réseaux comblent par continuité les vides entre les exemples qui leur ont été présentés. Disons que c’est du presque-par-cœur. Les experts humains, qu’ils soient médecins, pilotes ou joueurs de Go, ne font souvent pas autre chose lorsqu’ils décident de manière réflexe, grâce à la grande quantité d’exemples appris pendant leur formation. Mais les humains ont bien d’autres pouvoirs.

Un réseau de neurones ne peut pas apprendre à calculer. L’association entre des opérations comme 32+73 et leur résultat à des limites. Ils ne peuvent que reproduire la stratégie du cancre qui tente de deviner le résultat, en tombant parfois juste. Calculer est trop difficile ? Qu’en est-il d’un test de QI élémentaire du genre : continuer la suite 1223334444. L’association par continuité n’est toujours d’aucun secours pour voir que la structure, n répété n fois, se poursuit par cinq 5. Encore trop difficile ? Les programmes associatifs ne peuvent même pas deviner qu’un animal mort le mardi n’est pas vivant le mercredi. Pourquoi ? Que leur manque-t-il ?

La modélisation en sciences cognitives a révélé l’existence de plusieurs mécanismes, autres que l’association par continuité, qui sont autant de composantes de l’intelligence humaine. Parce que leur expertise est entièrement précalculée, ils ne peuvent pas raisonner dans le temps pour décider qu’un animal mort reste mort, ou pour comprendre le sens de la phrase « il n’est toujours pas mort » et la bizarrerie de cette autre phrase : « il n’est pas toujours mort ». La seule prédigestion de grandes quantités de données ne leur permet pas non plus de repérer les structures inédites si évidentes pour nous, comme les groupes de nombres identiques dans la suite 1223334444. Leur stratégie du presque-par-cœur est aussi aveugle aux anomalies inédites.

La détection des anomalies est un cas intéressant, car c’est souvent à travers elle que nous jaugeons l’intelligence d’autrui. Un réseau de neurones ne « verra » pas que le nez est absent d’un visage. Par continuité, il continuera à reconnaître la personne, ou peut-être la confondra-t-il avec une autre. Mais il n’a aucun moyen de réaliser que l’absence de nez au milieu du visage constitue une anomalie.

Il existe bien d’autres mécanismes cognitifs qui sont inaccessibles aux réseaux de neurones. Leur automatisation fait l’objet de recherches. Elle met en œuvre des opérations effectuées au moment du traitement, là où les réseaux de neurones se contentent d’effectuer des associations apprises par avance.

Avec une décennie de recul sur le deep learning, le public averti commence à voir les réseaux de neurones bien plus comme de « super-automatismes » et bien moins comme des intelligences. Par exemple, la presse a récemment alerté sur les étonnantes performances du programme DALL-E, qui produit des images créatives à partir d’une description verbale – par exemple, les images que DALL-E imagine à partir des termes « fauteuil en forme d’avocat », sur le site OpenAI). On entend maintenant des jugements bien plus mesurés que les réactions alarmistes qui ont suivi la sortie d’AlphaGo : « C’est assez bluffant, mais il ne faut pas oublier qu’il s’agit d’un réseau de neurones artificiel, entraîné pour accomplir une tâche ; il n’y a aucune créativité ni aucune forme d’intelligence. » (Fabienne Chauvière, France Inter, 31 janvier 2021)

Aucune forme d’intelligence ? Ne soyons pas trop exigeants, mais restons lucides sur l’énorme fossé qui sépare les réseaux de neurones de ce que serait une véritable intelligence artificielle.
________
Par Jean-Louis Dessalles, Maître de Conférences, Institut Mines-Télécom (IMT)
Jean Louis Dessalles a écrit « Des intelligences très artificielles » aux éditions Odile Jacob (2019).

Macron rencontre les partenaires sociaux : il était temps

Macron rencontre les partenaires sociaux : il était temps

 

Macron a sans doute intérêts à donner un autre contenu aux discussions avec les partenaires sociaux car jusque là, force est de constater qu’il s’est complètement assis sur la négociation. Ses rapports indirects le plus souvent se sont limités à une concertation dont il n’a pas tenu compte. Or de gros dossiers très complexes et politiquement dangereux vont venir comme les retraites ou le régime chômage. Macron ne pourra pas passer en force ces réformes à moins de mettre en cause encore davantage sa popularité. Officiellement, l’objet de cette rencontre est donc  de discuter des grands chantiers économiques et sociaux qui seront mis en œuvre dans les prochains mois. Mais les organisations syndicales espèrent un changement de méthode de la part de l’exécutif. Plusieurs d’entre elles, dont Force ouvrière et la CFDT, avaient demandé ce rendez-vous et en avaient fait une condition pour renouer un dialogue rompu depuis les réformes du Code du travail, de la formation professionnelle et de l’assurance chômage. “J’espère qu’il y aura un avant et un après 17 juillet”, a dit à Reuters le secrétaire général de FO, Pascal Pavageau. “Depuis un an, c’est : ‘je marche seul, je décide tout seul, sans les contrepoids, les contrepouvoirs’.” “J’espère sincèrement que, sur la méthode, tout va rentrer dans l’ordre. Ça n’enlèvera rien des désaccords de fond, d’orientation et de politique mais ça permettra au moins de reparler entre l’exécutif et les interlocuteurs sociaux.”

Le secrétaire général de la CFDT note pour sa part déjà un changement de ton de l’exécutif, depuis le discours d’Emmanuel Macron devant le Parlement réuni en congrès le 9 juillet. “Si je me fie au discours du Congrès, j’entends une prise de conscience que la question sociale ne peut être maltraitée et il me semble qu’il y a le souci d’écouter un peu plus les organisations … Alors je dis ‘chiche’”, dit Laurent Berger dans une interview publiée lundi par L’Opinion. Selon une source à l’Elysée, le chef de l’Etat abordera avec ses interlocuteurs les réformes déjà engagées, pour voir comment ils peuvent se saisir des “leviers mis à leur disposition”, en matière de négociation d’entreprise et de branche, notamment.

Il évoquera également les thèmes que les uns et les autres souhaitent aborder dans l’année à venir et rappellera “ses priorités” : “La pauvreté, la lutte contre la précarité et la pénurie de recrutement qu’on voit poindre aujourd’hui et le sujet du retour à l’activité et à l’emploi.”

Reprise de I’immobilier : toujours l’intox

Reprise de I’immobilier : toujours l’intox

À l’occasion du Marché international des professionnels de l’immobilier (Mipim), les lobbys pratiquent à niveau l’intox concernant la reprise de l’immobilier. D’après eux la crise est finie sauf qu’elle est contredite par les chiffres car sur les derniers mois si effectivement on a pu constater une certaine amélioration, le logement privé, lui, demeure en recul quant au prix contrairement à ce qui est affirmé,  ils ne repartent pas à la hausse bien au contraire. En cause évidemment le problème de solvabilité de nombre d’acquéreurs en particulier des primo accédant. Les niveaux de prix sont encore inaccessibles pour nombre de candidats à l’accession. Une raison simple, pour un bien d’une valeur de 220 000 € (valeur française moyenne) il faut des revenus de l’ordre de 5000 € mensuels à fin d’offrir des garanties à l’organisme prêteur. Pourtant Bernard Cadeau, Président du groupe ORPI, premier réseau d’agences immobilières en France déclare. « C’est le bon moment pour acheter, estime-t-il. Les taux d’intérêt sont historiquement bas et les vendeurs très raisonnables. L’écart entre le prix de mise en vente et le prix de vente à la signature est en moyenne inférieur à 4,5%. » Le sourire est revenu aussi chez Bouygues Immobilier. Son Directeur Général Délégué, Éric Mazoyer, constate une réaccélération du marché du neuf. Personne pourtant ne se pose la question de l’importance excessive du capital mort investi dans la pierre du fait en particulier du coup du foncier. Un capital mort qui saigne l’épargne des acquéreurs pendant une grande partie de la vie et qui ne l’oriente  pas vers des secteurs plus productifs. Une sorte de contresens économique qui découle directement de la mode de la concentration urbaine qui fait payer un bien 400 000 € soit quatre fois le prix payé en zone rurale. Un gâchis économique financier et environnemental.

 

La pétition Loi travail à I million : nouvelle forme d’expression politique (‘Albert Ogien)

 

,Le sociologue Albert Ogien explique dans 20 minutes les raisons du succès de la pétition contre la loi travail.

ALBERT OGIEN. Il y a une part de mystère dans ces réactions politiques affectives par lesquelles, tout à coup, un million de gens sont prêts à cliquer pour la même chose. Il y a évidemment des circonstances politiques, un ras-le-bol qui s’exprime et une sensibilité sur la question du droit du travail. Je constate aussi une sorte d’effet Téléthon avec la pétition en ligne : plus le nombre de signatures augmente, plus il s’agit de battre un record. Il est difficile de savoir de quelle manière ce phénomène — qui est très nouveau — influence l’opinion. En tout cas, il attise le débat.

Ces mobilisations virtuelles vont-elles se traduire dans la rue ?
On le verra mercredi ! Après les révolutions égyptienne et tunisienne, on s’est demandé si on avait assisté à des révolutions Facebook, mais on ne renverse pas un gouvernement virtuellement. Il faut à un moment que les corps descendent dans la rue. Dans le mouvement Occupy Wall Street, les appels à manifester contre la finance se sont multipliés de la part de militants et ne rassemblaient qu’une poignée d’activistes, jusqu’au jour où, sans explication, 70 000 personnes se sont retrouvées sur la place.

Est-ce que les syndicats ou les mouvements étudiants peuvent en tirer parti ?

La tendance est plutôt d’agir en dehors des partis et des syndicats. Sur le projet de loi El Khomri, ce sont d’authentiques activistes, comme Caroline de Haas, qui lancent des appels mais sans passer par des organisations traditionnelles. Et c’est ce qui marche. La journée du 9 mars sera un test pour mesurer le degré d’exaspération des étudiants.

 

40 000 euros de frais de taxis pour la présidente de I’INA

 

 

Après Mathieu Gallet, c’est l’actuelle présidente t de l’INA qui fait 40 000 euros de dépenses de taxis en 10 mois . C’est une information révélée sur France Info par notre chroniqueur Enguerran Renault, rédacteur en chef médias du Figaro. Agnès Saal, présidente de l’Ina, est rattrapée par des notes mirobolantes de taxi, 40.000 euros en 10 mois.  Un corbeau a envoyé une lettre anonyme à tous les administrateurs de l’Ina pour y dénoncer des frais de taxi énormes de la part de la présidente Agnès Saal. 40.000 euros de frais de taxi en 10 mois. Elle s’est justifiée devant les collaborateurs et s’est engagée à rembourser tout ce qui relevait des déplacements privés. Son fils a utilisé le code de taxi pour 6.700 euros. Elle a fait immédiatement un chèque pour rembourser. Fleur Pellerin, ministre de la Culture, a missionné l’Inspection générale des affaires culturelles pour enquêter sur l’utilisation des frais de fonctionnement de tous les PDG de l’audiovisuel public, et des établissements culturels qui relèvent de son ministère. Elle réclame plus de transparence et d’exemplarité sur l’utilisation des fonds. Agnès Saal a remplacé Mathieu Gallet à la tête de l’Ina, lui-même rattrapé par d’importantes dépenses en tant que PDG de Radio France. L’enquête de l’inspection des Finances sur Radio France l’a dédouané.