Intelligence artificielle : risque de manipulations » ( Thierry Berthier et Nicolas Miailhe)
De manipulations économiques et politique aussi une possible remise en cause de la liberté, de la sécurité, du développement de la durabilité, des intérêts collectifs, et de la dignité de la personne humaine par exemple.
Nicolas Miailhe est cofondateur et président de The Future Society, un incubateur d’idées et de projets lancé à la Harvard Kennedy School of Government en 2014 et dédié aux questions d’impact et de gouvernance de l’accélération et de la convergence des progrès technologiques. Dans ce cadre, Nicolas a lancé « The AI Initiative », qui pilote actuellement, entre autres activités, un débat participatif mondial multilingue sur la gouvernance de l’intelligence artificielle.
Lorsque l’on évoque la diaspora française des experts impliqués dans l’IA mondialisée, on pense immédiatement à Yann Le Cun, Directeur du laboratoire d’intelligence artificielle de Facebook (FAIR) ou à Emmanuel Mogenet, directeur de l’ingénierie de Google Research Europe.
D’autres voix françaises ont su se faire entendre dans un écosystème mondial très concurrentiel, en particulier celle de Nicolas Miailhe sur le segment des implications sociétales et géopolitiques de l’intelligence artificielle.
The AI Initiative, quels objectifs ?
NICOLAS MIAILHE – « The AI Initiative » a été lancée en 2015 dans le cadre de « The Future Society » pour se concentrer sur les questions d’impact et de gouvernance de la montée en puissance de l’Intelligence artificielle. Notre objectif est de favoriser l’émergence de cadres de gouvernance globaux permettant de tirer le meilleur parti de la révolution de l’IA en maximisant les bénéfices et en minimisant les risques.
Nous sommes convaincus que la révolution de l’IA est globale et qu’elle appelle donc une meilleure coordination internationale, mais aussi transnationale, car le monopole des États est remis en cause par la puissance des géants du numérique. Faire émerger un cadre de gouvernance adapté va prendre du temps. Cela implique de nourrir un dialogue transdisciplinaire et ouvert sur la société civile au-delà des experts et des praticiens.
Pourquoi est-ce nécessaire d’ouvrir sur la société au-delà des experts ?
Les changements vont affecter tout le monde et les questions éthiques à trancher aussi. Vu les dilemmes et les tensions entre des valeurs fondatrices de nos modèles sociaux comme la liberté, la sécurité, le développement, la durabilité, les intérêts collectifs, et la dignité de la personne humaine par exemple, un dialogue est indispensable pour harmoniser nos systèmes de valeurs. C’est une tâche difficile et très politique au fond, mais indispensable si nous voulons apprendre à vivre en harmonie à 7 puis 8 et 10 milliards d’êtres humains à l’heure de l’IA. Les travaux de recherche, les outils cognitifs et les évènements que nous organisons avec The AI Initiative sont tournés vers ce but.
Quelles sont les différences entre populations américaine et française ?
Les Américains sont généralement plus technophiles et confiants dans l’avenir que les Français. Ils ont aussi un goût pour le risque plus développé. C’est lié à leur histoire et à l’esprit de conquête (notamment sur la nature) qui l’irrigue.
Cet esprit, on le retrouve dans la métaphore de la « nouvelle frontière » qui continue de jouer un rôle central dans le projet de construction national américain : depuis la conquête de l’Ouest au XIXe siècle, jusqu’à celle de l’espace et de la lune au XXe siècle ; et à présent du corps et du cerveau humain. Le goût pour le risque, on le retrouve jusqu’à aujourd’hui par exemple au travers du droit à porter les armes… qui nous fait bondir en France !
Des craintes également aux États-Unis ?
Le leadership technoscientifique et industriel américain en matière de numérique, de data et donc d’IA est un facteur très rassurant à l’heure actuelle s’agissant de leur capacité à façonner l’agenda mondial de l’IA en équilibrant les bienfaits avec les risques.
Notre approche est ancrée dans la crainte… et la réalité du décrochage industriel et scientifique. Nous percevons la révolution de l’IA comme une vague, un tsunami qui nous arrive dessus et qui menace notre modèle de société contre lequel il faut se protéger. Nous avons perdu notre esprit de conquête qu’il faut absolument retrouver et traduire dans un modèle industriel crédible.
Comme nous percevons la révolution de l’IA comme largement « étrangère », nous Français cherchons malheureusement à la réguler (contraindre) plus qu’à gouverner (accompagner). Notre ambition universaliste est bien là, mais elle est quelque part plus conservatrice qu’elle n’est progressiste à l’heure où beaucoup de choses changent avec des opportunités à saisir dans tous les domaines : médical, transport, finance, sécurité, industrie, etc.
Notre ambition universaliste se traduit par la recherche d’un modèle européen de l’IA qui articule recherche de la puissance avec respect de la personne humaine. La péréquation entre les deux ne va pas être simple, car en régulant à partir d’une position d’extrême faiblesse industrielle par rapport aux Américains ou aux Chinois, nous risquons d’entraver notre propre montée en puissance. C’est un peu le risque que le GDPR (Règlement général sur la protection des données) fait planer sur les ambitions de puissance de la France et de l’Europe si nous ne savons pas en faire un atout.
Le solutionnisme béat de la Silicon Valley est-il inquiétant ?
Au-delà des bonnes intentions, qui sont sincères chez la plupart des transhumanistes, le solutionnisme technologique est un poison dangereux ; par manque de réflexivité. C’est à croire que nous n’avons rien appris des horreurs du XXe siècle.
La simplification à outrance des débats à laquelle on assiste parfois dans la Silicon Valley relève d’une certaine forme de naïveté, voire de fondamentalisme. Or, le recours à la science et à la technologie pour résoudre des problèmes (développement, maladie, sécurité, relations entre les individus) n’est jamais neutre. Il intègre des transferts de pouvoir importants. La montée en puissance des géants du numérique aux États-Unis ou en Chine s’accompagne d’un transfert de richesse et de pouvoir très important et qui n’est pas encore équilibré. Avec le basculement dans une économie de l’attention et du virtuel qui comportent des risques de manipulations importants.
Quelle est la vision du côté de Harvard et de The Future Society ?
Nous avons souhaité lancer The Future Society à Harvard, la plus vieille, mais aussi la plus puissante des universités américaines, aussi pour bénéficier d’un enracinement et d’une réflexion plus profonde qui caractérise la côte Est des États-Unis par rapport à la côte ouest. Il y a un côté plus mesuré ; une prudence ; un respect par rapport aux usages et aux traditions. Et pour autant un dynamisme technoscientifique ainsi qu’un brassage de cultures et d’intelligences qu’on retrouve dans très peu d’écosystèmes à travers le monde.
Il s’agit donc d’un choix réfléchi qui vise quelque part à proposer un modèle alternatif à celui de la Silicon Valley ; empreint de plus d’humilité et peut-être de sagesse, au travers d’une conscience des enjeux du temps long et des forces profondes qui animent la trajectoire d’évolution de la vie intelligente dans l’univers. « Science sans conscience n’est que ruine de l’âme » disait Rabelais il y a plus de cinq siècles déjà. Nous avons fait notre cette belle maxime.
Cultiver une réflexion profonde à l’heure de la révolution NBIC qui remet en cause de façon rapide certains des grands équilibres qui ont régit nos modèles sociaux pendant des millénaires nous semble plus important que jamais. Avec la révolution de l’IA et des neurotechnologies, des choix d’une importance capitale -quasi existentiels- vont se présenter à nous. Il faut se donner les moyens de les instruire correctement.
Comment est perçu le transhumanisme aux États-Unis ? et en Europe ?
Notre position, si je peux parler ainsi, car The Future Society cultive la diversité, est qu’il est indispensable d’inviter les sociétés à créer les conditions d’un débat sur ces questions ; et que ce débat doit être transcivilisationnel. Permettre une politisation saine, sage et courageuse de ces enjeux, et quelque part de l’opposition croissante entre « transhumanistes libertariens », « techno-progressistes » et « bioconservateurs » de droite et de gauche nous semble crucial.
Cela n’est pas facile à faire, car les questions sont complexes, mais elles renvoient en fait à des interrogations philosophiques assez basiques, donc à la portée de l’immense majorité des gens, pourvu que le processus de politisation soit bien orchestré. Les experts dont nous faisons partie doivent de ce point de vue se mettre au service de la société, et faire preuve de pédagogie pour permettre aux citoyens de jouer leur rôle dans le débat. Définir la trajectoire d’évolution de l’Humanité au XXIe siècle à l’heure de l’accélération technologique implique rien de moins que cela ! C’est aussi ça l’éducation civique de notre époque.
Et les Français s’intéressent finalement beaucoup à ces questions par rapport à d’autres cultures, comme en témoigne le nombre important d’ouvrages, d’articles et de documentaires qui paraissent régulièrement sur la question depuis 2010. Vous savez, nous avions reçu Zoltan Itsvan (le candidat transhumaniste-libertarien à la présidence des États-Unis, Ndlr) à la Kennedy School en avril 2016 pendant la campagne des présidentielles américaines pour un débat politique inédit avec James Hugues (son opposant techno-progressiste, Ndlr). Discussion assez fascinante qui a entre autres montré que le transhumanisme n’est pas un bloc monolithique, mais plutôt un courant en évolution permanente et recomposition, ce qui est plutôt sain. La discussion a également montré en quoi le leadership techno-industriel vaut de plus en plus leadership politique. L’émergence d’un Marc Zuckerberg comme leader possible du parti démocrate le prouve bien aujourd’hui.
Et ce n’est pas forcément une bonne nouvelle ! C’est aussi pour cela que la France et l’Europe doivent prendre des risques et se réveiller sur le plan industriel si nous voulons être en capacité de faire entendre notre voix dans ce débat stratégique. Il ne s’agit rien de moins que de l’avenir de la condition humaine et des grands équilibres qui la régissent. Mais ce que je voulais vous dire en parlant de la visite de Zoltan Itsvan à Harvard… C’est qu’il était suivi par une équipe de télévision française qui faisait un reportage sur lui ! Cela montre à quel point les Français sont fascinés par ces enjeux ! Et de mon point de vue c’est plutôt rassurant.
Le spectre politique est en train d’évoluer profondément sous nos yeux : d’une seule dimension à plusieurs dimensions. Si bien qu’on doit plutôt penser en termes de « prisme ». Il y a un deuxième et un troisième axe au-delà du spectre « droite-gauche » : démocratie directe vs indirecte ; et local vs global. J’en rajoute même un quatrième, de plus en plus pertinent : bioconservateur vs transhumaniste. Et un cinquième, très ancien, mais qui resurgit : matérialistes vs transcendantalistes.
Existe-t-il une doctrine américaine de l’IA au plan économique, géopolitique, militaire ?
Dans la compétition stratégique croissante entre les États-Unis et la Chine, il y a indéniablement une course à l’IA. Commerciale, mais aussi militaire. Il faut arrêter de se voiler la face. Les enjeux sont trop importants et le paradigme du « winner-takes-all » de l’économie des plateformes est en train de donner un tour explosif à la course. La Russie semble en retrait, car très affaiblie sur le plan économique. En effet, la géopolitique de l’IA est avant tout une géo économie !
Et les deux mastodontes de l’économie numérique globale que sont la Chine et les États-Unis s’efforcent de s’appuyer sur la taille critique de leurs énormes marchés domestiques, et sur leurs alliances, pour devenir les leaders mondiaux de l’IA. Du côté des GAFAMI, comme des BATX, les capitaines d’industrie ont tous fait de l’IA le cœur de leur stratégie. Idem concernant les gouvernements : l’Administration Obama a mené tout un travail dans sa dernière année d’exercice en 2016 qui a débouché sur la publication d’une stratégie et d’une roadmap technologique, y compris sur le plan militaire avec la publication de sa stratégie du « third offset ».
Sans parler de cyber sécurité bien sûr dans laquelle l’IA est appelée à jouer un rôle croissant. A l’été 2017, les plus hautes autorités chinoises ont alors annoncé un plan stratégique de grande ampleur sur l’IA qui doit lui permettre de ravir le leadership technologique aux Américains en IA d’ici 2025. L’administration Trump ne s’est pas vraiment approprié le sujet, même si elle apporte un soutien indéfectible aux militaires et son grand plan de baisse des impôts devraient favoriser les géants du net. Même si la question d’une course à l’armement n’est pas clairement évoquée, elle est bien posée. Car d’un côté comme de l’autre on a un a une perception assez limpide de la dualité de ces technologies. Et dans les deux cas, le gouvernement a et va continuer à jouer un rôle critique pour soutenir les progrès technologiques. Regardez le rôle qu’a joué la DARPA aux États-Unis par exemple dans la révolution numérique. Aujourd’hui IA et robotique, mais avant cela, Internet, GPS. Le système chinois est un capitalisme d’État qui est encore plus clair et quelque part efficace. En tout cas le rattrapage numérique que les Chinois ont réussi à produire est assez incroyable et inquiète de plus en plus les Américains. C’est quelque chose dont on parle beaucoup à Harvard.
Eric Schmidt, le PDG d’Alphabet a tiré la sonnette d’alarme lors d’une conférence en novembre 2017 en affirmant que « la suprématie technologique sans égard dont les États-Unis ont bénéficié depuis la chute de l’Union Soviétique est terminée ». L’Europe, mais surtout l’Afrique sera demain un terrain d’affrontement entre ces deux modèles aux antipodes l’un de l’autre.
Quelles pistes pour la France ?
La période actuelle est un tournant indéniable. Nous avons la chance d’avoir un Président brillant qui est parfaitement conscient des enjeux de son temps, y compris sur le plan numérique. D’où également l’attachement viscéral du Président Macron à l’Europe. Car dans le monde qui vient, plus que jamais l’union fera la force.
Dans cette période charnière, il ne faut surtout pas que la France rate la mise en place des conditions de son leadership numérique en Europe et dans le monde. De ce point de vue, l’implosion récente du Conseil national du numérique (CNNum) n’est pas une bonne nouvelle, car elle nous prive d’un véhicule d’échange et de dialogue indispensable entre le gouvernement et la société civile. Il faut impérativement que l’on réussisse à sortir par le haut de la crise actuelle. Peut-être en repensant au passage les missions du CNNum et certains des grands principes qui régissent son fonctionnement comme son indépendance par exemple… Et son articulation avec le Conseil Economique Sociale et Environnemental ?
Réussir 2018 pour la France sur les plans du numérique et de l’IA implique de présenter une stratégie française en matière d’IA qui soit ambitieuse en matière industrielle. C’est ce à quoi s’attèle avec talent et détermination Cédric Villani qui rendra son rapport dans quelques semaines. Il reviendra alors à Mounir Mahjoubi, le ministre en charge du numérique, de traduire les axes proposés en une stratégie et l’exécuter.
Notre stratégie en matière d’IA doit aussi chercher à influencer la stratégie européenne que la Commission publiera à la mi-année. Quelques points à regarder avec attention de ce point de vue : l’articulation d’une stratégie industrielle en matière de data avec le cadre régulatoire du Règlement général de protection des données (RGPD) qui s’appliquera à partir de mai 2018 à travers toute l’Europe. Il est impératif de réussir à faire de ce cadre une chance pour la France et l’Europe permettant de faire émerger des leaders industriels de la data et de l’IA. Et cela ne va pas être facile, car les risques et les entraves pour les entrepreneurs sont importants.
Faire de l’Europe le champion de l’éthique sans masse critique des usages est dangereux. Surtout quand on connaît la propension des consommateurs à sacrifier vie privée contre gratuité et confort d’usage. Il faut que cela change, mais le dosage doit être équilibré, car nous vivons dans un marché globalisé. Si nous savons trouver la bonne mesure, le RGPD offre des atouts donc il faut se saisir, comme le droit à la portabilité des données qui peut être un avantage comparatif majeur pour le marché unique et les acteurs européens. Il faut que les gouvernements développent une politique industrielle solide permettant de faire émerger des plateformes européennes nourries à la portabilité. C’est un changement de paradigme qui ne va pas se faire tout seul.
_____
Par Thierry Berthier, Maitre de conférences en mathématiques, cybersécurité et cyberdéfense, chaire de cyberdéfense Saint-Cyr, Université de Limoges et Nicolas Miailhe, Senior Visiting Research Fellow, Harvard University
La version originale de cet article a été publiée sur The Conversation