Intelligence artificielle : limites, potentiels et dangers

Intelligence artificielle :  limites, potentiels et dangers

 

James Buchanan – Directeur Stratégie, Razorfish Londres, évoque les limites de l’IA.( Dans un article de la Tribune)

 

 

 

« L’intelligence artificielle a tous les attributs d’une grande révolution annoncée. Son potentiel est un peu plus « réel » chaque jour, de l’ordinateur qui bat les meilleurs joueurs de Go à la voiture autonome.  Lors de cette manifestation à laquelle j’ai participé aux côtés de 3 autres experts, j’ai eu l’occasion d’aborder l’impact des services propulsés par l’IA à l’échelle de l’individu. Au cours des cinq dernières années, les objets et services intelligents se sont essayés à tous les aspects de notre vie. Depuis la rencontre amoureuse jusqu’à la livraison, en passant par la finance et le sport, des start-ups anticipent désormais le moindre de nos problèmes et nous proposent des services toujours plus personnalisés à l’aide de l’IA. Sous couvert d’être pratiques, ces services changent notre façon de voir le monde, notre manière de penser et notre propre identité. Quelle valeur accordons-nous à notre libre-arbitre ? Sommes-nous prêts à sacrifier notre autonomie ? Avec l’émergence des machines qui apprennent, notre monde devient de plus en plus inquiétant et étrange, et il est légitime de s’interroger sur son évolution.  C’est maintenant qu’il faut en parler, alors que ces outils sont encore à notre service. Personne ne veut devenir le simple prolongement de chair et d’os d’un algorithme. L’innovation a toujours modifié notre façon de penser : ce que nous créons nous influence en retour. Le cas de l’intelligence artificielle est unique. Elle se matérialise par des outils qui ont leur intelligence propre et ne se laissent pas totalement contrôler. A la poursuite de leur logique interne, ils s’améliorent au contact de millions d’utilisateurs, leur influence croissant avec leur intelligence. Ces services semblent utiles car ils résolvent nos problèmes, révèlent ce qu’il y a de meilleur en nous et minimisent nos insuffisances. Ils nous confèrent quasiment des superpouvoirs. C’est pourtant d’un œil critique que nous devrions considérer cette situation. Dans ce futur algorithmique, qu’est ce qui compte le plus ? Avoir l’opportunité de partager mon point de vue est plutôt un accomplissement pour qui, comme moi, a grandi dans une petite ville. Mais que penser d’un futur où l’IA ne me permettra plus jamais de rencontrer ceux qui ne sont pas d’accord avec moi ? Que penser d’un service financier qui, faisant passer en premier ce qu’il sait être mes intérêts à long-terme, me rendra volontairement difficile la prise de décisions d’impulsion? In fine, peut-on sincèrement croire que « le marché » prendra soin de nous ? L’option de facilité consiste à se concentrer sur les résultats : clients enrichis, volume d’engagement, indice de satisfaction… Des données simples car elles correspondent déjà aux objectifs des entreprises. Elles offrent aussi de la lisibilité sur les variables grâce auxquelles les algorithmes s’améliorent, le reflet d’une culture scientifique dans laquelle ont grandi de nombreux tech-entrepreneurs. Mais laisser de côté toute préoccupation de sécurité devrait pourtant nous inquiéter un peu plus. Même des scientifiques de renom comme Stephen Hawkins admettent que l’intelligence artificielle pourrait bientôt nous échapper… Un autre mot pour « résultat » est « fin », et l’on sait qu’elle ne justifie pas les moyens. Enrichir un client n’est pas un argument valable si, en chemin, vous détériorez un autre aspect de sa vie, ou celle de quelqu’un d’autre, de façon imprévisible. Il y a ensuite le risque de devenir dépendant. Que se passerait-il si tous ces services devenaient soudainement inaccessibles ? Serions-nous livrés à nous-mêmes ? C’est bien une question d’éthique que pose en creux l’IA… Il existe heureusement une alternative. Et si au lieu de se focaliser sur les résultats nous aidions plutôt les gens à devenir un peu plus eux-mêmes ? En encourageant la réflexion et la connaissance de soi, nous donnerions la priorité à l’enseignement plutôt qu’à l’automation. Nous donnerions aux gens les outils pour développer leurs compétences naturelles plutôt que de chercher à les remplacer. Nous passerions probablement plus de temps à réfléchir au rôle que ces services jouent au sein de la société plutôt qu’à ce qu’ils apportent à l’individu isolé. En somme, en faisant moins nous pouvons encourager les autres à en faire plus et à agir de façon éthique et responsable. Mais cela n’arrivera pas par hasard, nous devons passer par un chemin choisi délibérément. Tant dans les instances dirigeantes, où le sujet doit être mis à l’ordre du jour des agendas politiques, qu’auprès des citoyens, nous devons nous assurer que les consciences s’éveillent à ces questions. Asseyons-nous autour d’une table et engageons dès aujourd’hui la discussion sur ce que l’IA peut proposer, non seulement aux personnes que nous sommes, mais aussi à celles que nous voulons devenir. »

L’intelligence artificielle : comment prendre en compte l’intelligence humaine ?

L’intelligence artificielle : comment prendre en compte  l’intelligence humaine ?

 

Arnaud Martin, Université Rennes 1 pose la question de l’intégration de  l’incertitude humaine dans l’intelligence artificielle. (La Tribune)

« L’intelligence artificielle est devenue aujourd’hui un enjeu économique et se retrouve au cœur de nombreuses actualités. En effet les applications d’un grand nombre d’algorithmes regroupés sous le terme d’intelligence artificielle se retrouvent dans plusieurs domaines. Citons par exemple l’utilisation de l’intelligence artificielle dans les processus de recrutement ou encore pour le développement de voitures autonomes. Dans ce contexte, la France veut jouer un rôle dans lequel le rapport Villani pose les bases d’une réflexion. Ces méthodes et algorithmes d’intelligence artificielle soulèvent cependant des craintes et des critiques liées à la perte du sens commun issu des relations humaines.

Il faut toutefois avoir conscience que l’ensemble de ces approches ne font qu’intégrer des connaissances humaines qui ont été au préalable modélisées bien souvent à partir de processus d’extraction de connaissances.

C’est dans ce cadre que nous menons des recherches dans l’équipe DRUID (Declarative and Reliable Management of Uncertain, User-generated Interlinked Data) de l’IRISA (Institut de recherche en informatique et systèmes aléatoires). Il est en effet important de pouvoir modéliser de façon la plus exacte possible les connaissances des hommes aussi imparfaites qu’elles soient. Par exemple, lorsqu’on s’exprime sur les réseaux sociaux, on peut émettre des avis entachés d’incertitude ou encore d’imprécision. Il ne serait pas raisonnable de croire tout ce qui peut se dire sur les réseaux sociaux. Mais comment modéliser ces doutes que l’on a tous ?

Nous développons ainsi des approches dans le cadre de la théorie des fonctions de croyance. Cette théorie permet de modéliser à la fois le caractère incertain d’une information mais également son caractère imprécis. Par exemple, si l’on me dit qu’il pleuvra peut-être beaucoup demain, d’une part je ne suis pas certain qu’il pleuve demain et d’autre part je ne sais pas interpréter le terme « beaucoup » qui peut correspondre à la quantité d’eau qu’il va tomber ou à la durée de la pluie. Alors dois-je prendre un parapluie ?

Cette modélisation de l’information produite par les hommes, l’intelligence naturelle, doit être particulièrement fine lorsque l’on veut combiner ces informations issues de différentes personnes. En effet, si beaucoup de personnes pensent qu’il va peut-être pleuvoir demain, sur la base de leurs connaissances diverses et indépendantes, on peut penser qu’il y a plus de chance qu’il pleuve demain, même si les personnes initialement étaient incertaines.

 

Ainsi, plusieurs stratégies de combinaison de ces informations dans le cadre de la théorie des fonctions de croyance ont été proposées. Au cœur de ces approches, réside la notion de conflit car lorsqu’on laisse la possibilité à plusieurs personnes indépendantes de s’exprimer, inévitablement certaines opinions seront contradictoires. Le conflit peut donc être vu comme une conséquence inhérente à la diversité de l’intelligence naturelle. Atteindre un consensus devient donc un des principaux défis de l’intelligence artificielle.

C’est en effet à partir d’un consensus qu’une décision peut être prise que ce soit lors d’une assemblée de personnes ou par un algorithme. Si le consensus est mou, la décision sera moins fiable et parfois peu pertinente. Il serait illusoire de penser que les décisions prises par un algorithme d’intelligence artificielle sont indiscutables et sont prises de façon certaine. Toute décision doit donc être accompagnée d’un niveau de confiance que l’on peut lui porter. Ainsi, dans le cadre de la théorie des fonctions de croyance, plusieurs stratégies de décision sont développées pour m’aider notamment à prendre ou non un parapluie.

Bien sûr le développement de ces approches sous-entend qu’on laisse suffisamment d’expressivité aux personnes afin de préciser leur incertitude et imprécision. C’est malheureusement peu souvent le cas. Aujourd’hui on nous demande notre avis sur tout : on doit noter l’hôtel dans lequel on vient de séjourner, le chauffeur qui nous a conduits, le vendeur d’électroménager ou encore le livreur. Il est cependant bien souvent difficile d’attribuer une note ou un avis, qui reste très subjectif, alors que par exemple on ne s’est même pas encore servi de l’électroménager. Les questionnaires ne permettent pas de préciser nos incertitudes et imprécisions alors qu’il est des plus naturels de les exprimer dans le langage courant. Pire, les algorithmes d’apprentissage qui sont le fondement d’un grand nombre de méthodes d’intelligence artificielle ne permettent pas d’intégrer ces connaissances naturelles puisqu’elles n’ont pas été recueillies dans les bases de données. En particulier, des plates-formes de productions participatives (crowdsourcing en anglais) permettent, entre autres, d’acquérir des bases de connaissances nécessaires à l’apprentissage d’algorithmes de plus en plus gourmands avec la résurgence des réseaux de neurones.

Ainsi dans le cadre d’un projet de recherche qui porte sur le développement de ces plates-formes, nous cherchons à proposer des questionnaires permettant des réponses incertaines et imprécises.

Ces recherches nous paraissent essentielles pour l’intégration de l’intelligence naturelle dans les algorithmes d’intelligence artificielle. »

______

Par Arnaud Martin, Intelligence Artificielle, Fouille de données, Université Rennes 1

 

Intelligence artificielle : science ou art ?

 

Intelligence artificielle : science ou art ?

Un  article intéressant de Raphael Bertholet, Vice-Président R&D de Symphony Retail AI France dans le journal la Tribune évoque les possibilités d’intégration de la sensibilité humaine dans l’intelligence artificielle au point que cette dernière pourrait être considérée comme un art. Un article qui s’attarde cependant seulement sur les problèmes méthodologiques et qui n’évoque pas les phénomènes d’aliénation et de domination de ces nouvelles technologies sur la pensée humaine, sur les comportements et pas seulement dans le domaine marchand.

 

 

Tribune

 

« Alors que l’on croyait, il y a encore peu, que l’une des limites de l’IA était la créativité – notamment artistique -, nous savons à présent qu’il n’en est rien et que l’homme peut être challengé aussi dans ce domaine. En témoigne la première exposition qui se tient en ce moment en Angleterre, rassemblant les œuvres d’AI-Da, humanoïde doté d’une intelligence artificielle. Il n’aura fallu que quelques jours pour que tous ses dessins, tableaux et sculptures se vendent, pour plus d’un million d’euros. Preuve, s’il était besoin, que l’IA est un placement d’avenir !

Au-delà de son caractère médiatique, cet évènement montre un point capital : l’IA lève le voile sur des domaines que l’on croyait hors du champ de la rationalité et des sciences, des domaines où seuls l’instinct et le talent humains pouvaient agir et apporter des réponses. L’IA montre que ce n’est pas si vrai et que les algorithmes peuvent, contre certaines certitudes, trouver des réponses à des questions qui étaient censées échapper à la science.

La prévision de la demande est, pour partie, l’un de ces domaines.

Jusqu’à récemment, l’approche en matière de prévision de la demande dans le retail a consisté à s’appuyer sur des outils statistiques et analytiques pour une grande partie des catégories de produits – et sur l’expérience et l’instinct des prévisionnistes pour ce qui sortait du cadre des modèles bien établis.

Bien que très performants, les outils statistiques classiques touchent, en effet, à leurs limites dès que l’on n’est plus dans une situation habituelle. Comment anticiper, par exemple, la demande d’un produit qui va faire l’objet d’une importante promotion le mois prochain alors que le vécu de ce même produit est vide de ce genre d’expérience ? Comment savoir à quel point le lancement d’un nouveau produit – pour lequel il n’y a pas de données existantes – va susciter la demande ?

Pour toutes ces situations inhabituelles pour lesquelles les statistiques ne peuvent plus venir en aide au travail des prévisionnistes, ces derniers se fient généralement à leur expérience. C’est l’intuition qui prend le relai. C’est le point au-delà duquel la prévision de la demande cesse d’être une science et devient un art.

Or c’est précisément ce point où l’IA est aujourd’hui en train de renverser la situation. En analysant des corrélations et des probabilités de corrélations avec d’autres articles, d’autres lieux de vente, d’autres données contextuelles, l’IA va se comporter comme l’instinct ou l’intuition du prévisionniste et permettre à la prévision de la demande de continuer à être une science, là où l’on pensait qu’elle restait un art.

Dans le retail comme ailleurs, la valeur d’une prévision se mesure à sa fiabilité et sa précision. Si la prévision de la demande pour les produits connus atteint des niveaux de précision élevés, celle des produits ou situations inhabituels fait chuter le taux de précision global, qui se heurte à une limite que l’on croyait difficile, pour ne pas dire impossible, à briser.

Parce qu’elle sait non seulement traiter des volumes de données immenses et hétérogènes, mais aussi faire les corrélations qui permettent d’expliquer l’inhabituel, l’IA gomme aujourd’hui cette limite. Elle donne aux prévisionnistes les moyens de passer une étape supérieure majeure dans leur travail, en leur fournissant les pistes et les corrélations qui leur permettent d’expliquer l’inhabituel et en industrialisant le bénéfice de l’intuition pour anticiper, avec une précision inédite, les situations pour lesquelles il n’existe pas ou peu de données directement reliées à l’évènement.

Avec l’IA, le talent des prévisionnistes peut ainsi être mis au profit de cette nouvelle marge de progression du taux de précision des prévisions. Leur intuition servira à proposer et tester de nouvelles données contextuelles aux évènements, de nouveaux attributs descriptifs pour enrichir l’IA et améliorer ses performances. Sans être encore une science exacte, la prévision de la demande s’en rapproche de plus en plus avec l’IA, et pourrait bien tendre à le devenir. »

L’intelligence artificielle : comment y intégrer l’intelligence humaine ?

L’intelligence artificielle : comment y intégrer l’intelligence humaine ?

 

Arnaud Martin, Université Rennes 1 pose la question de l’intégration de  l’incertitude humaine dans l’intelligence artificielle. (La Tribune)

---

« L’intelligence artificielle est devenue aujourd’hui un enjeu économique et se retrouve au cœur de nombreuses actualités. En effet les applications d’un grand nombre d’algorithmes regroupés sous le terme d’intelligence artificielle se retrouvent dans plusieurs domaines. Citons par exemple l’utilisation de l’intelligence artificielle dans les processus de recrutement ou encore pour le développement de voitures autonomes. Dans ce contexte, la France veut jouer un rôle dans lequel le rapport Villani pose les bases d’une réflexion. Ces méthodes et algorithmes d’intelligence artificielle soulèvent cependant des craintes et des critiques liées à la perte du sens commun issu des relations humaines.

Il faut toutefois avoir conscience que l’ensemble de ces approches ne font qu’intégrer des connaissances humaines qui ont été au préalable modélisées bien souvent à partir de processus d’extraction de connaissances.

C’est dans ce cadre que nous menons des recherches dans l’équipe DRUID (Declarative and Reliable Management of Uncertain, User-generated Interlinked Data) de l’IRISA (Institut de recherche en informatique et systèmes aléatoires). Il est en effet important de pouvoir modéliser de façon la plus exacte possible les connaissances des hommes aussi imparfaites qu’elles soient. Par exemple, lorsqu’on s’exprime sur les réseaux sociaux, on peut émettre des avis entachés d’incertitude ou encore d’imprécision. Il ne serait pas raisonnable de croire tout ce qui peut se dire sur les réseaux sociaux. Mais comment modéliser ces doutes que l’on a tous ?

Nous développons ainsi des approches dans le cadre de la théorie des fonctions de croyance. Cette théorie permet de modéliser à la fois le caractère incertain d’une information mais également son caractère imprécis. Par exemple, si l’on me dit qu’il pleuvra peut-être beaucoup demain, d’une part je ne suis pas certain qu’il pleuve demain et d’autre part je ne sais pas interpréter le terme « beaucoup » qui peut correspondre à la quantité d’eau qu’il va tomber ou à la durée de la pluie. Alors dois-je prendre un parapluie ?

Cette modélisation de l’information produite par les hommes, l’intelligence naturelle, doit être particulièrement fine lorsque l’on veut combiner ces informations issues de différentes personnes. En effet, si beaucoup de personnes pensent qu’il va peut-être pleuvoir demain, sur la base de leurs connaissances diverses et indépendantes, on peut penser qu’il y a plus de chance qu’il pleuve demain, même si les personnes initialement étaient incertaines.

 

Ainsi, plusieurs stratégies de combinaison de ces informations dans le cadre de la théorie des fonctions de croyance ont été proposées. Au cœur de ces approches, réside la notion de conflit car lorsqu’on laisse la possibilité à plusieurs personnes indépendantes de s’exprimer, inévitablement certaines opinions seront contradictoires. Le conflit peut donc être vu comme une conséquence inhérente à la diversité de l’intelligence naturelle. Atteindre un consensus devient donc un des principaux défis de l’intelligence artificielle.

C’est en effet à partir d’un consensus qu’une décision peut être prise que ce soit lors d’une assemblée de personnes ou par un algorithme. Si le consensus est mou, la décision sera moins fiable et parfois peu pertinente. Il serait illusoire de penser que les décisions prises par un algorithme d’intelligence artificielle sont indiscutables et sont prises de façon certaine. Toute décision doit donc être accompagnée d’un niveau de confiance que l’on peut lui porter. Ainsi, dans le cadre de la théorie des fonctions de croyance, plusieurs stratégies de décision sont développées pour m’aider notamment à prendre ou non un parapluie.

Bien sûr le développement de ces approches sous-entend qu’on laisse suffisamment d’expressivité aux personnes afin de préciser leur incertitude et imprécision. C’est malheureusement peu souvent le cas. Aujourd’hui on nous demande notre avis sur tout : on doit noter l’hôtel dans lequel on vient de séjourner, le chauffeur qui nous a conduits, le vendeur d’électroménager ou encore le livreur. Il est cependant bien souvent difficile d’attribuer une note ou un avis, qui reste très subjectif, alors que par exemple on ne s’est même pas encore servi de l’électroménager. Les questionnaires ne permettent pas de préciser nos incertitudes et imprécisions alors qu’il est des plus naturels de les exprimer dans le langage courant. Pire, les algorithmes d’apprentissage qui sont le fondement d’un grand nombre de méthodes d’intelligence artificielle ne permettent pas d’intégrer ces connaissances naturelles puisqu’elles n’ont pas été recueillies dans les bases de données. En particulier, des plates-formes de productions participatives (crowdsourcing en anglais) permettent, entre autres, d’acquérir des bases de connaissances nécessaires à l’apprentissage d’algorithmes de plus en plus gourmands avec la résurgence des réseaux de neurones.

Ainsi dans le cadre d’un projet de recherche qui porte sur le développement de ces plates-formes, nous cherchons à proposer des questionnaires permettant des réponses incertaines et imprécises.

Ces recherches nous paraissent essentielles pour l’intégration de l’intelligence naturelle dans les algorithmes d’intelligence artificielle. »

______

Par Arnaud Martin, Intelligence Artificielle, Fouille de données, Université Rennes 1

 

INTELLIGENCE ARTIFICIELLE : PARIS ET BERLIN POUR UN FONDS COMMUN .

Intelligence artificielle : Paris et Berlin pour  un fonds commun

La France et l’Allemagne viennent  d’annoncer la mise en place d’un fonds commun pour développer  la filière de l’intelligence artificielle. Il était temps car ni en Allemagne, ni en France il n’existe de stratégies à la hauteur des enjeux dans ce domaine. Pour tout dire,  on a nettement sous-estimé le développement exponentiel des  algorithmes qui vont nourrir les transformations du mode de production mais aussi du mode de consommation voir même influencer le domaine naturel. Certes la France ne manque pas de bidouilleurs de génie capable de développer une start-up dans un domaine particulier mais souvent revendues en quelques années  à des firmes américaines voire chinoises. Cette émergence un peu spontané de ne saurait constituer une stratégie. Les insuffisances françaises et allemandes dans ce domaine du numérique sont à l’image des mêmes carences qui concernent cette autre filière que sont les batteries électriques.

Notons que le projet sur l’intelligence artificielle s’inspirera du modèle retenu pour financer le développement d’une filière européenne de batteries de quatrième génération pour les véhicules électriques, déjà fruit d’une initiative franco-allemande, qui vise à contrer le quasi-monopole actuel de la Chine dans ce domaine.

Bruno Le Maire plaide régulièrement pour une plus grande coordination européenne sur les questions industrielles et technologiques, indispensable à ses yeux pour favoriser l’émergence de “géants européens” à même de garantir la “souveraineté technologique” de l’Europe face aux Etats-Unis et à la Chine.

Il est soutenu dans ce projet par le ministre allemand de l’Economie et de l’Energie, Peter Altmaier, qui a jugé dans son discours devant les patrons français que l’intérêt de l’Europe était de se donner les moyens de conserver les données de ses citoyens et de “créer une infrastructure souveraine de données”.

Intelligence artificielle : les limites

Intelligence artificielle : les limites

James Buchanan – Directeur Stratégie, Razorfish Londres, évoque les limites de l’IA.( Dans un article de la Tribune)

 

 

 

« Omniprésente cette année au salon South by Southwest, l’intelligence artificielle a tous les attributs d’une grande révolution annoncée. Son potentiel est un peu plus « réel » chaque jour, de l’ordinateur qui bat les meilleurs joueurs de Go à la voiture autonome.  Lors de cette manifestation à laquelle j’ai participé aux côtés de 3 autres experts, j’ai eu l’occasion d’aborder l’impact des services propulsés par l’IA à l’échelle de l’individu. Au cours des cinq dernières années, les objets et services intelligents se sont essayés à tous les aspects de notre vie. Depuis la rencontre amoureuse jusqu’à la livraison, en passant par la finance et le sport, des start-ups anticipent désormais le moindre de nos problèmes et nous proposent des services toujours plus personnalisés à l’aide de l’IA. Sous couvert d’être pratiques, ces services changent notre façon de voir le monde, notre manière de penser et notre propre identité. Quelle valeur accordons-nous à notre libre-arbitre ? Sommes-nous prêts à sacrifier notre autonomie ? Avec l’émergence des machines qui apprennent, notre monde devient de plus en plus inquiétant et étrange, et il est légitime de s’interroger sur son évolution.  C’est maintenant qu’il faut en parler, alors que ces outils sont encore à notre service. Personne ne veut devenir le simple prolongement de chair et d’os d’un algorithme. L’innovation a toujours modifié notre façon de penser : ce que nous créons nous influence en retour. Le cas de l’intelligence artificielle est unique. Elle se matérialise par des outils qui ont leur intelligence propre et ne se laissent pas totalement contrôler. A la poursuite de leur logique interne, ils s’améliorent au contact de millions d’utilisateurs, leur influence croissant avec leur intelligence. Ces services semblent utiles car ils résolvent nos problèmes, révèlent ce qu’il y a de meilleur en nous et minimisent nos insuffisances. Ils nous confèrent quasiment des superpouvoirs. C’est pourtant d’un œil critique que nous devrions considérer cette situation. Dans ce futur algorithmique, qu’est ce qui compte le plus ? Avoir l’opportunité de partager mon point de vue est plutôt un accomplissement pour qui, comme moi, a grandi dans une petite ville. Mais que penser d’un futur où l’IA ne me permettra plus jamais de rencontrer ceux qui ne sont pas d’accord avec moi ? Que penser d’un service financier qui, faisant passer en premier ce qu’il sait être mes intérêts à long-terme, me rendra volontairement difficile la prise de décisions d’impulsion? In fine, peut-on sincèrement croire que « le marché » prendra soin de nous ? L’option de facilité consiste à se concentrer sur les résultats : clients enrichis, volume d’engagement, indice de satisfaction… Des données simples car elles correspondent déjà aux objectifs des entreprises. Elles offrent aussi de la lisibilité sur les variables grâce auxquelles les algorithmes s’améliorent, le reflet d’une culture scientifique dans laquelle ont grandi de nombreux tech-entrepreneurs. Mais laisser de côté toute préoccupation de sécurité devrait pourtant nous inquiéter un peu plus. Même des scientifiques de renom comme Stephen Hawkins admettent que l’intelligence artificielle pourrait bientôt nous échapper… Un autre mot pour « résultat » est « fin », et l’on sait qu’elle ne justifie pas les moyens. Enrichir un client n’est pas un argument valable si, en chemin, vous détériorez un autre aspect de sa vie, ou celle de quelqu’un d’autre, de façon imprévisible. Il y a ensuite le risque de devenir dépendant. Que se passerait-il si tous ces services devenaient soudainement inaccessibles ? Serions-nous livrés à nous-mêmes ? C’est bien une question d’éthique que pose en creux l’IA… Il existe heureusement une alternative. Et si au lieu de se focaliser sur les résultats nous aidions plutôt les gens à devenir un peu plus eux-mêmes ? En encourageant la réflexion et la connaissance de soi, nous donnerions la priorité à l’enseignement plutôt qu’à l’automation. Nous donnerions aux gens les outils pour développer leurs compétences naturelles plutôt que de chercher à les remplacer. Nous passerions probablement plus de temps à réfléchir au rôle que ces services jouent au sein de la société plutôt qu’à ce qu’ils apportent à l’individu isolé. En somme, en faisant moins nous pouvons encourager les autres à en faire plus et à agir de façon éthique et responsable. Mais cela n’arrivera pas par hasard, nous devons passer par un chemin choisi délibérément. Tant dans les instances dirigeantes, où le sujet doit être mis à l’ordre du jour des agendas politiques, qu’auprès des citoyens, nous devons nous assurer que les consciences s’éveillent à ces questions. Asseyons-nous autour d’une table et engageons dès aujourd’hui la discussion sur ce que l’IA peut proposer, non seulement aux personnes que nous sommes, mais aussi à celles que nous voulons devenir. »

 

Intelligence artificielle : l’esquisse d’une stratégie

Intelligence artificielle : l’esquisse d’une stratégie

 

 

Comme on le sait, la mode n’est pas aux réflexions stratégiques dans ce gouvernement qui lui préfère une sorte de l’idéologie du court terme. Pourtant pour certains grands sujets industriels ou autres, la complexité de la problématique et l’ampleur des moyens à mettre en œuvre exigent  nécessairement une vision à long terme et la mise en place de synergies entre les acteurs concernés. Faute de ce type de démarche, la France et l’Europe ont perdu la maîtrise de la technologie 5G  au profit seulement des Chinois et des Américains. Concernant l’intelligence artificielle là aussi chinois et américains ont engagé des moyens considérables pour maîtriser cette révolution technologique. On peut donc se réjouir que Huit  grands groupes industriels français de secteurs aussi variés que l’aérospatiale, l’énergie et l’automobile aient  annoncé mercredi avoir signé un manifeste pour préparer l’utilisation de l’intelligence artificielle (IA) dans leurs activités respectives. Air Liquide, Dassault Aviation, EDF, Renault, Safran, Thales, Total et Valeo précisent dans un communiqué commun vouloir définir d’ici la fin d’année un “plan d’action coordonné avec l’écosystème français de l’IA». Les groupes industriels ont signé ce manifeste avec le ministère de l’Economie et des Finances dans le cadre de la stratégie “AI for Humanity” du gouvernement. “L’objectif est d’atteindre plus rapidement une masse critique sur les sujets de recherche prioritaires”, soulignent-ils pour expliquer leur volonté de coopérer, tout en invitant d’autres acteurs publics ou privés à les rejoindre. Le groupe de télécoms Orange, le fabricant de semi-conducteurs STMicroelectronics, le groupe de services pétroliers Schlumberger et l’éditeur de jeux vidéo Ubisoft ont déjà franchi le pas ces derniers jours en participant eux aussi au manifeste, a précisé Marko Erman, directeur technique de Thales. “La rupture technologique fondatrice pour les économies du 21e siècle, ce sera l’intelligence artificielle”, a souligné lors d’un discours le ministre de l’Economie et des Finances Bruno Le Maire. “C’est pour ça qu’il est absolument impératif (…) que ce soit une technologie que nous maîtrisions et non pas une technologie que nous subissions”, a-t-il ajouté. On peut cependant regretter que le rapprochement des compétences et les moyens de recherche sur le sujet n’ait  pas une dimension européenne

Intelligence artificielle : enjeux (rapport Villani)

Intelligence artificielle : enjeux (rapport Villani)

 

Un rapport parlementaire sorti il y a un an mais qui demeure d actualité (www.aiforhumanity.fr/pdfs/9782111457089_Rapport_Villani_accessible.pd).  Introduction.

« Définir l’intelligence artificielle n’est pas chose facile. Depuis ses origines comme domaine de recherche spécifique, au milieu du XXe siècle, elle a toujours constitué une frontière, incessamment repoussée. L’intelligence artificielle désigne en effet moins un champ de recherches bien défini qu’un programme, fondé autour d’un objectif ambitieux : comprendre comment fonctionne la cognition humaine et la reproduire ; créer des processus cognitifs comparables à ceux de l’être humain. Le champ est donc naturellement extrêmement vaste, tant en ce qui concerne les procédures techniques utilisées que les disciplines convoquées : mathématiques, informatiques, sciences cognitives… Les méthodes d’IA sont très nombreuses et diverses (ontologique, apprentissage par renforcement, apprentissage adversarial, réseaux de neurones…) et ne sont pas nouvelles : beaucoup d’algorithmes utilisés aujourd’hui ont été développés il y a plusieurs dizaines d’années. Depuis la conférence de Dartmouth de 1956, l’intelligence artificielle s’est développée, au gré des périodes d’enthousiasme et de désillusion qui se sont succédées, repoussant toujours un peu plus les limites de ce qu’on croyait pouvoir n’être fait que par des humains. En poursuivant son projet initial, la recherche en IA a donné lieu à des vrais succès (victoire au jeu d’échecs, au jeu de go, compréhension du langage naturel…) et a nourri largement l’histoire des mathématiques et de l’informatique : combien de dispositifs que nous considérons aujourd’hui comme banals étaient à l’origine une avancée majeure en IA – une application de jeux d’échecs, un programme de traduction en ligne… ? Du fait de ses ambitions, qui en font un des programmes scientifiques les plus fascinants de notre époque, la discipline de l’IA s’est toujours développée de concert avec les imaginaires les plus délirants, les plus angoissants et les plus fantastiques, qui ont façonné les rapports qu’entretient le grand public avec l’IA mais également ceux des chercheurs eux-mêmes avec leur propre discipline. La (science) fiction, les fantasmes et les projections collectives ont accompagné l’essor de l’intelligence artificielle et guident parfois ses objectifs de long terme : en témoignent les productions fictionnelles abondantes sur le sujet, de 2001 l’Odyssée de l’espace, à Her en passant Blade Runner et une grande partie de la littérature de science-fiction. Finalement, c’est probablement cette alliance entre des projections fictionnelles et la recherche scientifique qui constitue l’essence de ce qu’on appelle l’IA. Les imaginaires, souvent ethno-centrés et organisés autour d’idéologies politiques sous-jacentes, jouent donc un rôle majeur, bien que souvent négligé, dans la direction que prend le développement de cette discipline. L’intelligence artificielle est entrée, depuis quelques années, dans une nouvelle ère, qui donne lieu à de nombreux espoirs. C’est en particulier dû à l’essor de l’apprentissage automatique. Rendues possibles par des algorithmes nouveaux, par la multiplication des jeux de données et le décuplement des puissances L’intelligence artificielle est entrée, depuis quelques années, dans une nouvelle ère, qui donne lieu à de nombreux espoirs 10 Introduction de calcul, les applications se multiplient : traduction, voiture autonome, détection de cancer,… Le développement de l’IA se fait dans un contexte technologique marqué par la « mise en données » du monde (datafication), qui touche l’ensemble des domaines et des secteurs, la robotique, la blockchain1, le supercalcul et le stockage massif. Au contact de ces différentes réalités technologiques se jouera sûrement le devenir de l’intelligence artificielle. Ces applications nouvelles nourrissent de nouveaux récits et de nouvelles peurs, autour, entre autres, de la toute-puissance de l’intelligence artificielle, du mythe de la Singularité et du transhumanisme. Depuis quelques années, ces représentations sont largement investies par ceux qui la développent et participent à en forger les contours. Le cœur politique et économique de l’intelligence artificielle bat toujours dans la Silicon Valley, qui fait encore office de modèle pour tout ce que l’Europe compte d’innovateurs. Plus qu’un lieu, davantage qu’un écosystème particulier, elle est, pour beaucoup d’acteurs publics et privés, un état d’esprit qu’il conviendrait de répliquer. La domination californienne, qui subsiste dans les discours et dans les têtes, nourrit l’idée d’une voie unique, d’un déterminisme technologique. Si le développement de l’intelligence artificielle est pensé par des acteurs privés hors de nos frontières, la France et l’Europe n’auraient d’autre choix que de prendre le train en marche. Les illustrations sont nombreuses : rien qu’en France, l’accord signé entre Microsoft et l’éducation nationale sous le précédent quinquennat ou l’utilisation par la DGSI de logiciels fournis par Palantir, une startup liée à la CIA, ne disent finalement pas autre chose. On observe la même tentation chez les entreprises européennes qui, persuadées d’avoir déjà perdu la course, cèdent bien souvent aux sirènes des géants de la discipline, parfois au détriment de nos pépites numériques. Contrairement aux dernières grandes périodes d’emballement de la recherche en intelligence artificielle, le sujet a très largement dépassé la seule sphère scientifique et est sur toutes les lèvres. Les investissements dans la recherche et dans l’industrie atteignent des sommes extraordinaires, notamment en Chine. Les responsables politiques du monde entier l’évoquent dans les discours de politique générale comme un levier de pouvoir majeur : l’emblématique interview à Wired de Barack Obama en octobre 2016 montrait que ce dernier avait bien compris l’intérêt de faire de l’avance américaine en intelligence artificielle un outil redoutable de soft power. Le Président russe Vladimir Poutine a quant à lui affirmé que « celui qui deviendra le leader dans ce domaine sera le maître du monde », comparant l’intelligence artificielle aux technologies nucléaires. S’il s’agissait vraisemblablement pour lui de compenser le retard de la Russie en matière d’intelligence artificielle par un discours musclé sur le sujet, cette affirmation est révélatrice de l’importance géostratégique prise par ces technologies. Dans la mesure où les chaînes de valeur, surtout dans le secteur numérique, sont désormais mondiales, les pays qui seront les leaders dans le domaine de l’intelligence artificielle seront amenés à capter une grande partie de la valeur des systèmes qu’ils transforment, mais également à contrôler ces mêmes systèmes, mettant en cause l’indépendance des autres pays. C’est que l’intelligence artificielle va désormais jouer un rôle bien plus important que celui qu’elle jouait jusqu’alors. Elle n’est plus seulement un programme 1. La blockchain correspond à un registre distribué qui permet d’éviter de recourir à un tiers de confiance lors de transactions et qui est notamment au fondement du bitcoin. 11 Introduction Donner un sens, c’est-à-dire donner un cap, une signification et des explications. Voilà l’objectif de ce rapport de recherche confiné aux laboratoires ou à une application précise. Elle va devenir une des clés du monde à venir. En effet nous sommes dans un monde numérique, de plus en plus, de part en part. Un monde de données. Ces données qui sont au cœur du fonctionnement des intelligences artificielles actuelles. Dans ce monde-là, qui est désormais le nôtre, ces technologies représentent beaucoup plus qu’un programme de recherche : elles déterminent notre capacité à organiser les connaissances, à leur donner un sens, à augmenter nos facultés de prise de décision et de contrôle des systèmes. Et notamment à tirer de la valeur des données. L’intelligence artificielle est donc une des clés du pouvoir de demain dans un monde numérique. Voilà pourquoi il est d’intérêt général que nous nous saisissions collectivement de cette question. Et que la France et l’Europe puissent faire entendre leur voix. Il est nécessaire de tout faire pour rester indépendants. Or la concurrence est rude : les États-Unis et la Chine sont à la pointe de ces technologies et leurs investissements dépassent largement ceux consentis en Europe. Le Canada, le Royaume-Uni et, tout particulièrement, Israël, tiennent également une place essentielle dans cet écosystème naissant. Parce qu’à bien des égards, la France et l’Europe peuvent déjà faire figure de « colonies numériques »2, il est nécessaire de ne céder à aucune forme de déterminisme, en proposant une réponse coordonnée au niveau européen. C’est pourquoi le rôle de l’État doit être réaffirmé : le jeu du marché seul montre ses limites pour assurer une véritable politique d’indépendance. De plus les règles qui régissent les échanges internationaux et l’ouverture des marchés intérieurs ne servent pas toujours les intérêts économiques des États européens – qui l’appliquent trop souvent à sens unique. Plus que jamais, l’État doit donner un sens au développement de l’intelligence artificielle. Donner un sens, c’est-à-dire donner un cap, une signification et des explications. Voilà l’objectif de ce rapport »

Les perspectives de l’intelligence artificielle dans les transports (Patrice Caine, PDG de Thales)

Les perspectives de l’intelligence artificielle dans les transports (Patrice Caine, PDG de Thales)

 

Une interview de Patrice Caine, PDG de Thales dans la Tribune sur les perspectives de l’intelligence artificielle dans les transports et qui ne cache pas cependant la vulnérabilité de certains systèmes

 

Quelles pourraient être les nouvelles frontières dans l’aérospatiale et le transport terrestre grâce à l’arrivée de l’intelligence artificielle (IA) ?
PATRICE CAINE - Des cas d’usage faisant appel à ces technologies peut être déployés dès à présent par les compagnies aériennes. Celles-ci sont de grandes entreprises, qui disposent d’une supply chain, de nombreux salariés, des ERP [progiciel de gestion intégrée, ndlr] et qui intensifient la numérisation de leur exploitation. Un des éléments clés de cette digitalisation est l’utilisation de l’IA. Par exemple, Thales propose d’ores et déjà de tels cas d’usage aux compagnies aériennes et aux opérateurs de transport, comme dans le cas du métro de Londres ou de Singapour, ou encore pour la SNCF ou la Deutsche Bahn. La prochaine étape sera l’utilisation de l’IA dans les avions, les trains, les métros, ou encore les voitures. La question de savoir jusqu’où on utilise l’IA est en discussion. En d’autres termes, quel degré d’autonomie vise-t-on ? Le monde du transport terrestre est un peu moins complexe que l’aérien. Pour le transport terrestre, il s’agit d’un monde à deux dimensions, voire une seule dans le cas des trains ou des métros. Donner de l’autonomie à ces objets évoluant dans un monde à une ou deux dimensions est moins complexe que dans un monde à trois dimensions comme pour un avion.

Est-ce possible aujourd’hui dans les transports terrestres ?
La technologie a bien progressé. Thales est passé du stade de laboratoire il y a deux à trois ans, à la preuve de concept, par exemple avec le métro de New York. L’automne dernier, pour la première fois, Thales a équipé une rame de métro de multiples capteurs pour lui permettre de se repérer dans l’espace sans avoir besoin de balises sur la voie ferrée. Et nous avons mis des ordinateurs dans le poste de pilotage, avec des algorithmes utilisant de l’IA, pour permettre à la rame de métro de se repérer et de prendre des décisions par elle-même face à des cas de figure imprévus. Cela a permis de voir comment la machine réagissait à un événement qui n’était pas programmé. Et cela a bien fonctionné. Il y a un vrai bénéfice économique lié à l’utilisation de ces technologies, l’économie n’est pas vraiment liée à la présence humaine ou non dans les rames de métro. D’ailleurs, dans les métros automatiques, les opérateurs de transport qui ont gardé la présence humaine, l’ont fait principalement à des fins psychologiques, car en réalité l’homme ne pilote plus ces métros. Le vrai bénéfice des trains ou des métros autonomes sera d’être encore plus efficaces, mais aussi plus économes en pouvant, par exemple, se passer de tous les équipements de positionnement à la voie, les fameuses balises ou même de la signalisation à la voie.

N’aurons-nous pas besoin de redondance pour des systèmes autonomes ?
Pour passer à l’échelle industrielle, il faut faire la démonstration que cette technologie est « safety critical ». Pour cela, on a besoin notamment de redondance, comme dans le secteur aéronautique, en utilisant par exemple deux chaînes de calcul en parallèle comme avec les radioaltimètres qui peuvent être jusqu’à trois exemplaires dans un même appareil afin d’assurer la concordance des informations. Néanmoins, dans l’aérien, c’est encore plus compliqué. Je n’irais pas jusqu’à dire que les normes « safety » [de sécurité] sont plus drastiques, mais l’environnement est différent. Les avionneurs, qui ont une vue d’ensemble du sujet, travaillent notamment sur la notion de SPO (Single Pilot Operation). La question qui se pose n’est pas d’avoir un avion sans pilote et totalement autonome, mais plutôt de passer un jour de deux pilotes humains à un seul pilote humain assisté d’un pilote à base d’intelligence artificielle.

À quel horizon les compagnies aériennes pourront-elles proposer des avions avec un seul pilote assisté par la machine et l’IA ?
C’est une question pour les constructeurs et les compagnies aériennes. Thales ne maîtrise qu’une partie de ce grand défi technologique qui concerne toute la chaîne de pilotage. De plus, ce sont des questions réglementées. C’est bien le constructeur qui dira « je sais faire ou pas », la compagnie aérienne « j’en ai besoin ou pas », et le régulateur « je certifie ou pas ».

Aujourd’hui, est-il possible de faire voler des drones autonomes ?
Est-on capable de rendre les drones autonomes ? Pas encore. Mais cela est imaginable à l’avenir. Là encore, il faudra que tout cela soit conforme aux règles de sécurité. Aujourd’hui, un drone non piloté est automatique et non pas autonome : il fait juste ce qu’on lui a demandé de faire avant qu’il décolle, typiquement en lui indiquant les coordonnées GPS pour définir un parcours à suivre. Ceci rend son pilotage automatique, mais pas autonome.

Du point de vue de Thales, l’IA est-elle déjà mature pour des applications dans le monde réel ?
La technologie est mature pour tout un tas d’application et de cas d’usage. La question est de savoir à quel rythme les clients seront prêts à l’utiliser dans les systèmes, et à quelle vitesse les clients et les utilisateurs seront prêts à l’accepter. Par exemple, pour les compagnies aériennes, le passager peut se poser légitimement la question de la sécurité. Autre exemple, en matière de défense se posent des questions de responsabilité, d’éthique voire de morale. Pour autant, il y a des sujets qui ne posent pas vraiment de problème éthique : c’est le cas de l’auto-apprentissage, une forme d’autonomie-amont, qui permet aux objets d’apprendre par eux-mêmes. C’est le cas des capteurs en général, par exemple les radars, les sonars, ou tout autre capteur électronique, qui peuvent acquérir une autonomie en matière d’apprentissage. La technologie est mature, et Thales est capable d’en faire bénéficier les systèmes qu’il développe dès lors que les questions de responsabilité et d’acceptabilité sociétale, éthique ou morale sont réunies.

Quel est le marché de l’IA dans l’aérospatial ?
L’IA n’est pas un produit ou un marché, c’est une technologie qui permet de créer de la différentiation. Cela permet de faire de l’avionique, des systèmes de contrôle aérien, avec des services supplémentaires plus efficaces et plus intelligents. On ne vend pas de l’IA à proprement parler, on l’embarque dans nos produits ou solutions pour en décupler les capacités. En matière de services de cybersécurité, quand on injecte des algorithmes IA dans les sondes de supervision des réseaux informatiques, on vend toujours des sondes, mais elles sont encore plus performantes grâce à l’IA.

Peut-on ou pourra-t-on certifier l’IA ? Et donc contrôler l’IA ?
C’est une question très sérieuse sur laquelle nous travaillons. Nous sommes pour le moment à une étape intermédiaire, à savoir la mise au point de l’IA explicable. Aujourd’hui, la branche de l’IA qui repose sur l’apprentissage par les données [data based AI] fait appel essentiellement au machine learning ; c’est une IA dite « boîte noire ». On ne saura jamais expliquer pourquoi elle arrive au résultat, mais on constate que ce résultat est exact dans 99,99 % des cas. C’est le cas de la reconnaissance faciale. Mais lorsqu’il lui arrive de se tromper, on ne sait pas l’expliquer. La première étape pour arriver à une IA explicable fera très vraisemblablement appel à de l’IA à base d’apprentissage par les données et à de l’IA à base d’apprentissage par les modèles. Cette hybridation de ces deux types d’IA devrait permettre de produire des algorithmes permettant d’expliquer les résultats de l’IA. On y travaille et on a bon espoir d’y arriver. La deuxième étape, c’est l’IA certifiable. Les grands experts disent que cela prendra sans doute des années et qu’on n’est pas sûr d’y arriver, mais on cherche. Si on y arrive, on pourra l’utiliser de manière plus extensive. Et la plupart des réticences seront levées. On sera dans un autre univers. Enfin, contrôler l’IA, c’est encore autre chose. L’IA produit un résultat. Ce qu’on en fait derrière peut se faire de manière automatique ou en gardant le contrôle.

Est-il possible de développer un cloud souverain à l’échelle de la France ou de l’Europe ?
Dans le champ des technologies numériques, Thales est utilisateur du cloud et pas un fournisseur de cloud en tant que tel. On constate qu’il y a des solutions particulièrement efficaces comme Azure de Microsoft ou AWS d’Amazon. Ces produits mettent à disposition des micro-services, des composants logiciels, qui permettent aux développeurs qui les utilisent d’aller plus vite pour créer leurs propres applications. Le cloud est devenu un élément important de compétitivité et d’efficacité pour les équipes d’ingénierie afin de gagner en temps dans leurs développements. Il sera sans doute très difficile pour des acteurs différents de ceux cités de fournir autant de micro-services. Toutes les semaines Azure et AWS mettent à jour leurs micro-services en en proposant de meilleurs et en y ajoutant de nouveaux.

Mais comment peut-on se protéger de lois extraterritoriales américaines comme le Cloud Act ?
Pour nos activités, on utilise soit du cloud public, soit du cloud privé ou encore nos propres data centers selon la sensibilité des applications et des données. Mais Thales est surtout fournisseur de solutions pour tous ceux qui veulent utiliser le cloud tout en protégeant leurs données. Par exemple, on va systématiquement chiffrer les données avant qu’elles soient stockées dans le Cloud et offrir un service de type « Bring your own key », permettant de créer des clés d’accès personnalisées. La plupart des industriels, qui offrent des services de cloud, proposent des « packages » pour s’occuper de tout : hébergement des données et chiffrage de celles-ci. Cela marche bien pour les industriels qui n’ont pas de sujets de confidentialité. Mais pour les acteurs qui veulent dissocier fournisseur d’hébergement et fournisseur de chiffrement pour des raisons de sécurité et de confidentialité ou d’autres raisons, il est possible de le faire. Thales propose des offres de protection des données en complément des services des hébergeurs de données dans le cloud. Est-ce possible d’avoir un cloud souverain ? Oui, c’est possible pour l’hébergement, mais il sera difficile de rattraper le niveau des acteurs américains quant aux micro-services associés, leur avance dans ce domaine est considérable.

L’affaire Huawei est-elle le début d’une guerre froide technologique ?
D’une façon générale, il s’est ouvert dans le monde de nouveaux champs de confrontation : après les champs de confrontation classiques, militaires ou diplomatiques, on observe de plus en plus une confrontation technologique. Les puissances cherchent à asseoir une domination, qui n’est plus aujourd’hui que militaire et diplomatique. Il y a aussi une course à l’armement sur le terrain technologique qui répond à une logique de puissance. Mais cela n’a-t-il pas toujours été le cas dans l’histoire ? L’invention de la roue n’a-t-elle pas permis de récolter davantage et donc de nourrir plus de personnes et d’avoir des nations plus nombreuses ? Aujourd’hui, le champ des confrontations englobe sans complexe les aspects industriels et technologiques.

De façon plus générale, faut-il craindre un cyber-Pearl Harbor ?
Personne ne le sait avec certitude mais autant s’y préparer. À notre niveau, nous faisons tout pour protéger nos clients et notre entreprise, mais il faut rester modeste. Tous les grands groupes sont attaqués quotidiennement. Il y a derrière les attaques informatiques des intérêts, qui ne sont pas uniquement économiques. On se prépare à toutes les éventualités. Mais la créativité étant sans limite, c’est un combat de tous les instants. Ceci dit, ce type de menace représente également une opportunité et un marché pour Thales. Nous aidons nos clients, les États ou les OIV [Opérateurs d'importance vitale] sur ces questions de cyberprotection. Thales se spécialise plutôt sur les solutions et les produits sachant que les clients font appel aujourd’hui à deux types d’acteurs : ceux axés sur le pur conseil et ceux axés sur les solutions.

Est-on arrivé à une vraie prise de conscience de la menace cyber ?
Le monde économique en parle de plus en plus, mais tous les acteurs n’ont pas encore mené des actions concrètes. Il y a encore un écart entre intention et action, car cela requiert des moyens, mais le sujet n’est plus ignoré. Un cap sera franchi lorsque tous les acteurs investiront suffisamment pour se protéger.

La généralisation de l’Internet des objets (IoT) augmente-t-elle les risques ?
L’IoT est un démultiplicateur du champ des possibles, mais aussi une source additionnelle de vulnérabilité. Pour Thales, c’est un champ de questionnements en interne, et d’opportunités de marché en externe. Dans notre analyse des marchés, le fait de connecter des objets à haute valeur ajoutée, comme des trains, des avions, des voitures, implique une exigence de sécurisation élevée. C’est dans ce domaine que Gemalto va nous apporter des technologies que nous n’avions pas. Cela aurait été un non-sens de vouloir les développer par nous-mêmes. Gemalto sait identifier les objets de manière très sécurisée et sait les gérer, c’est-à-dire les activer et les configurer de manière hautement sécurisée. Il propose des plateformes capables de gérer des millions d’objets de manière hautement sécurisée quant à leur identité numérique. Thales fait le reste, notamment l’exploitation et la gestion des données de mission.

L’acquisition de Gemalto par Thales amène certains observateurs à se demander si Thales va rester dans la défense. Que leur répondez-vous ?
Thales réalise 8 milliards d’euros dans la défense, sur un chiffre d’affaires total de 19 milliards en incluant l’acquisition de Gemalto – 16 milliards avant. Déduire de l’acquisition de Gemalto qu’on se désintéresse du militaire est un non-sens total. Si demain nous avions des opportunités de croissance externe dans la défense, nous les regarderions. Il y a des cycles, et en ce moment on avance plus vite en matière d’acquisition dans nos métiers civils. Mais je tiens à cette dualité défense-­civil. Il faut reconnaître que les acquisitions en matière de défense se font dans un domaine contraint, où on a besoin d’accords qui vont au-delà de celui du conseil d’administration de Thales. De mon point de vue, l’Europe de la défense ne pourra se faire que s’il y a, à un moment donné, une consolidation industrielle. Imaginer qu’on puisse le faire uniquement par de la coopération n’est pas suffisant sur le long terme. Cela renvoie à l’envie des États de pousser ou d’accompagner ce type de consolidation industrielle. Force est de constater que depuis la création d’EADS, il n’y a pas eu de très grande consolidation dans la défense.

Thales est concurrent de Naval Group, dont il est actionnaire, de MBDA dans les missiles et de Safran dans l’optronique. N’y a-t-il pas des rectifications de frontière qui s’imposent ?
Il y a tellement à faire dans le naval, un secteur où on est à la fois concepteur de senseurs/capteurs, de radars, de sonars ainsi que de CMS [Combat Management Systems] avec nos activités aux Pays-Bas. Mais nous ne sommes pas maître d’œuvre, ni plateformiste. Sur les 8 milliards d’euros d’activité que nous réalisons dans le secteur de la défense, il y a déjà énormément de projets à lancer pour améliorer ce que nous faisons déjà avant d’entamer autre chose. Thales a des activités historiques qui sont le fruit de l’héritage du groupe, comme son activité missilière à Belfast. Elle découle d’une volonté politique du Royaume-Uni. Le fait de produire des véhicules blindés en Australie est également le résultat de la volonté du gouvernement australien d’avoir ses activités hébergées par un acteur de confiance comme Thales. Notre groupe est un jardin mixte, à la française et à l’anglaise.

Thales va-t-il rester actionnaire de Naval Group ?
Oui, absolument. Nous avons apporté, à l’époque, notre activité
de CMS à Naval Group afin de consolider et renforcer l’équipe de France du naval. Devenir actionnaire de Naval Group a été, pour nous, à la fois une opération industrielle et un mouvement stratégique longuement réfléchis. Nous avons donc une stratégie de long terme avec Naval Group dans le cadre d’un partenariat industriel, technologique et capitalistique.

Quelle sera la feuille de route du nouveau président de Naval Group ?
Elle sera bien évidemment à définir avec l’État. Il faut trouver un PDG qui écrive la suite de l’histoire de Naval Group pour les dix prochaines années et qui puisse donc s’inscrire dans la durée.

Concernant les exportations, trop de compliances [règles de conformité anti-corruption] ne tuent-elles pas le business ?
Il y a des règles, il faut les appliquer, un point c’est tout. Si on les respecte, on fait du business dans certains pays ou pas. Quand on ne parvient pas à faire du business dans certains pays en respectant les règles, tant pis pour nous…

Pour Thales, le spatial reste-t-il une activité cœur de métier ?
Le spatial est au cœur de nos métiers et représente une activité importante chez Thales : Thales Alenia Space réalise environ 2,5 milliards de chiffre d’affaires. Avec Telespazio, le groupe affiche un chiffre d’affaires d’environ 3 milliards d’euros dans le spatial. Ce n’est donc pas une activité accessoire et dans ce domaine d’activité, nous avons de nombreux projets passionnants à réaliser, des projets créateurs de valeur, bien sûr. Le fait que cette activité soit au cœur de Thales n’empêche pas de travailler ou de coopérer avec d’autres acteurs. La meilleure façon de répondre à un marché exigeant comme celui du spatial, a fortiori lorsqu’un tel marché est difficile et où certains acteurs renoncent, c’est de chercher à travailler de manière pragmatique avec son écosystème. D’une façon générale, nous avons une analyse lucide quelle que soit l’activité concernée. Si nous avons la conviction que nous sommes les mieux placés pour développer telle ou telle activité, nous la développons et nous y investissons de façon significative.

Quelle serait votre position si l’État proposait une consolidation dans le spatial entre Thales et Airbus ?
Comme vous le savez, je ne commente jamais de tels sujets. Ce n’est pas parce que le marché est difficile pour tout le monde en ce moment qu’il faut immédiatement se poser une telle question.

Les géants américains ont des projets pour aller sur Mars, contrairement aux groupes européens. Ne manque-t-il pas des projets emblématiques en Europe pour entraîner le grand public ?
On est déjà allé sur Mars avec ExoMars en 2015. L’ESA l’a fait. L’Europe, qui a été capable de créer l’Agence spatiale européenne (ESA), consacre des sommes importantes à l’espace. La question que l’Europe doit se poser est : comment maintenir une industrie aérospatiale au plus haut niveau capable de rivaliser avec la Chine et les États-Unis ? Aujourd’hui, c’est encore le cas. Par exemple, les Chinois sont encore demandeurs de coopérer avec les Européens : c’est le signe qu’ils ne maîtrisent pas encore tout par eux-mêmes. Quant à la question de l’incarnation en Europe du rêve de la conquête spatiale, peut-être manque-t-on effectivement de fortes personnalités emblématiques, comme Elon Musk ou Jeff Bezos aux États-Unis ?

Pourquoi l’Europe ne veut pas dire qu’elle veut aller coloniser Mars ?
Le spatial est un secteur qui concerne aussi bien la science que le commercial. Aller sur Mars relève difficilement d’une logique de business plan, et les clients, ou candidats au voyage, ne semblent pas très nombreux. C’est peut-être important d’aller explorer ou coloniser Mars, mais ceci relève de la mission scientifique ; ce n’est pas un business pour un acteur industriel comme Thales. Peut-être a-t-on un discours trop réaliste ? Les entrepreneurs qui annoncent vouloir le faire, le font avec leur argent et ils assument leurs rêves. Force est de constater qu’en Europe, nous n’avons pas bénéficié de l’émergence d’entrepreneurs milliardaires emblématiques du numérique.

La France est sur le point de changer de doctrine dans l’espace. Quelle est votre analyse sur ce champ de confrontations ?
Nous avons soumis des idées au ministère des Armées, par exemple dans le domaine de la surveillance de l’espace depuis l’espace [SSA, Space Situational Awarness]. Nous pouvons aider notre pays et l’Europe, à se doter de capacités nouvelles au service de notre défense autonome des capacités tierces. Maintenant, c’est une décision qui appartient au pouvoir politique. Ce qui est relativement nouveau, c’est que l’espace est en train de devenir, voire est devenu, un champ de confrontations assumé, là où il ne l’était pas, ou l’était mais de manière non assumée. Un peu à l’instar de ce qui s’est passé dans le cyberespace où, avant la loi de programmation militaire du précédant quinquennat, la France ne reconnaissait pas l’attaque dans ce domaine. Depuis celle-ci, la France s’est donné la possibilité de se défendre, mais aussi d’attaquer dans le cyber­espace. Les responsables politiques assument qu’il y ait une menace et une stratégie aussi bien défensive qu’offensive.

Comment voyez-vous Thales dans dix ans ?
D’ici à trois ans, j’ai envie de poursuivre tout ce qui a été lancé : consolider Gemalto, intégrer de plus en plus de technologies pour créer de nouveaux différenciateurs et de nouvelles innovations pour nos clients. Au-delà de cette période, il s’agira de continuer de trouver des technologies de rupture pour offrir à nos clients, à nos équipes et à nos actionnaires des perspectives passionnantes au-delà de la décennie pour faire de Thales un laboratoire du monde de demain, axé sur la recherche du progrès pour tous.

Avez-vous des projets qui vous font rêver ?
Oui, et ils sont nombreux. Par exemple, le laser de haute puissance ouvre des champs fantastiques. La question, au-delà de la technologie mise au point pour ce projet ELI-NP [Extreme Light Infrastructure for Nuclear Physics] qui nous a permis de battre un record mondial avec l’émission d’une puissance incroyable de 10 pétawatt [10 millions de milliards de watts], est de savoir s’il va créer du business ou si cet outil restera un outil scientifique. Potentiellement, les applications font rêver : l’une d’elles permettrait de réduire la période de vie des éléments radioactifs. Mais ce champ d’application et de business s’adresse aux acteurs comme EDF, pas à Thales.

Autre projet à dix ans : comment va-t-on utiliser les propriétés quantiques de la matière pour ouvrir de nouveaux champs d’application ?
Le champ d’application de ces propriétés est quasiment sans limite. Nous avons communiqué sur l’utilisation de la « spintronique » [technique qui exploite la propriété quantique du spin des électrons] pour mettre au point des nano­synapses, des nano-neurones avec pour objectif final de faire baisser d’un facteur 10 ou 100 la consommation électrique des supercalculateurs. Si nous y arrivons, nous pourrons transformer l’industrie informatique et des supercalculateurs ainsi que l’utilisation de l’IA, qui est fortement consommatrice en puissance de calcul et donc très énergivore. Mais on se doit encore de rester modeste. Autre champ à l’étude sur lequel Thales a commencé à travailler : les senseurs quantiques, secteur où on peut être capable d’améliorer d’un facteur 10 à 100 - ce qui est colossal pour l’industrie - les précisions de mesure du champ magnétique, de la gravité, du champ électrique, etc. Cela ouvre des champs d’application qui sont totalement disruptifs.

Quelles peuvent être les applications de cette technologie ?
Imaginez un avion qui décollerait de Paris pour atterrir à l’aéroport de New York- JFK et perdrait ses repères extérieurs. Avec les technologies actuelles, il arriverait à destination avec une précision de 2 kilomètres. Grâce à ces technologies utilisant les propriétés quantiques de la matière, il y parviendrait avec une précision de 20 mètres, ce qui lui permettrait de se poser sur la piste. On raisonne beaucoup défense, aéronautique, mais pour autant, l’utilisation de ces capteurs quantiques ouvre des possibilités fantastiques, notamment dans la connaissance et l’exploitation du sol et du sous-sol. On va pouvoir mesurer et détecter ce qui ne peut pas l’être par la sismique classique ou l’observation depuis le ciel ou l’espace. Par exemple, dans la défense, cela permettrait de détecter des mines sous l’eau et, in fine, de mettre l’homme en sécurité.

Ces capteurs quantiques pourraient augmenter la résilience des avions, qui auraient fait l’objet d’un brouillage du GPS ou de Galileo ?
Bien sûr, c’est un gain en précision mais aussi en résilience. Un avion pourrait devenir autonome, sans s’appuyer sur des moyens extérieurs de navigation, potentiellement vulnérables. Brouiller un signal GPS, c’est presque à la portée de tout le monde. On peut imaginer des avions dotés des capteurs quantiques pour disposer de capacités autonomes, leur permettant de se guider indépendamment du GPS. Nous travaillons aussi sur le champ des communications quantiques. C’est de la recherche-amont mais qui nous projette dans le futur au-delà de la décennie.

À quel horizon ce champ de recherches peut-il devenir un champ applicatif ?
Année après année, nous franchissons des étapes qui nous confortent dans nos choix. On a déjà fait des mesures dans nos laboratoires. Cela fonctionne dans le cadre de manipulations de labo, car on est sur des TRL [Technology Readiness Level] très bas en termes de maturité. C’est au moins à cinq ans, voire dix ans, mais aujourd’hui nous avons des pans entiers de la science qui permettent d’entrevoir des applications dans le champ industriel et économique.

L’intelligence artificielle : chance ou menace ?

• ·        

 

L’intelligence artificielle constitue-t-elle une chance pour notre économie et où une menace pour les libertés démocratiques. C’était le thème d’un débat du Forum Europe 1 organisé au Bataclan. (Source Europe 1) 

« L’intelligence artificielle (IA) souffre-t-elle d’une mauvaise image dans l’Hexagone ? « On vit en France une vraie schizophrénie sur ce sujet », estime Eric Hazan, directeur associé chez McKinsey, cabinet de conseil en intelligence artificielle, interrogé lors du Forum Europe 1 Liberté, Egalité, Fraternité, organisé mardi au Bataclan.

Quatre fois plus de chômage sans l’IA ?  »On veut plus de vie privée et en même temps on est sur trois ou quatre réseaux sociaux. On vit avec le stress d’être écouté et on est bien content d’avoir des logiciels de traduction », énumère ce spécialiste pour qui l’intelligence artificielle est l’un des enjeux économiques majeurs des décennies à venir. « Si on déploie l’Intelligence artificielle, on va croître de 0,1 à 0,2% par an la croissance des pays développés. On créerait quatre fois plus de chômage en n’utilisant pas l’IA. On estime en effet à 5 à 10% des emplois qui seront supprimés à cause de l’IA. Mais il y aura aussi beaucoup de créations d’emploi ». Selon Eric Hazan, les bénéfices pourront toucher tous les secteurs. Détection ultraprécise du diabète, lutte contre le braconnage en Afrique, identification des prémices d’un ouragan, réduction des déchets de production dans l’industrie, analyse des capacités de remboursement de dette des ménages… « L’intelligence artificielle est un facteur de segmentation, de détails dans la compréhension des choses. On peut optimiser énormément de choses », conclut-il.

« La société de consommation existait bien avant l’intelligence artificielle »

Une incitation à la consommation ? L’intelligence artificielle est-elle pour autant une panacée ? Ne menace-t-elle pas notre vie privée et notre liberté ? « Ne risque-t-elle pas de nous pousser à consommer non-stop ? Aujourd’hui, je peux recevoir des publicités (ciblées) dans mes toilettes avec mon téléphone. Cela ne pousse-t-il pas à son maximum notre asservissement à la société de consommation ? », interroge pour sa part David Abiker, journaliste à Europe 1 et animateur du forum Europe 1. « La société de consommation existait bien avant l’intelligence artificielle », balaye pour sa part Eric Hazan, qui reconnaît que les enjeux éthiques sont importants et que l’IA devra être encadrée.

Pour Marie-Laure Denis, présidente de la CNIL, « les consommateurs d’IA doivent avoir conscience que leurs données sont enregistrées, comprendre comment elles sont enregistrées et utilisées » par l’IA. Si elle assure que la France est bien armée pour lutter contre les dérives en matière de protections des données, elle s’étonne encore de recevoir certains types de publicités : « Des publicités pour de l’alcool par exemple. Cela risque de poser problèmes pour ceux qui luttent contre une addiction… »

« L’économie de la connaissance, on y va ».  »Il y a des enjeux éthiques très importants. Si tous les logiciels d’intelligence artificielle sont faits par des hommes blancs, pour des hommes blancs, cela peut poser des problèmes » de discrimination, ajoute pour sa part Olivier Derrien, directeur général de Salesforce, éditeur de logiciels, participants aussi au débat. Mais pour Eric Hazan, toutes ces questions, légitimes, ne freineront pas le développement de l’IA. Elles devront être résolues mais il est désormais impossible de revenir en arrière. « L’intelligence artificielle, l’économie de la connaissance, on y va », conclut-il.

 

Vers le remplacement de l’homme par l’intelligence artificielle ?

Vers le remplacement de l’homme par l’intelligence artificielle ?

 

L’intelligence artificielle est un thème très à la mode c’est aussi l’occasion de faire un amalgame très approximatif de toutes les évolutions notamment technologiques, biologiques et sociétales. De ce point,  un article du site Atlantico (pourtant souvent intéressant) rend compte d’un ouvrage sur la question dans la lecture mérite le détour. Pas vraiment une analyse et une prospective scientifique mais plutôt une approche scientiste qui brasse des concepts mal maîtrisés et qui constituent plutôt une sorte de science-fiction alimentée par l’observation du marc de café et le courant transhumaniste.

 

«  Engagés depuis des milliards d’années dans une implacable course aux armements, nos gènes ont fini par se montrer plus malins. Ils ont fabriqué une arme si puissante que dans cette lutte il n’y aura ni gagnants ni perdants. Il ne s’agit pas de la bombe à hydrogène, car un conflit nucléaire généralisé ne ferait que retarder ce qui se trame et qui est immensément plus intéressant. Ce qui nous attend, ce n’est pas l’anéantissement. C’est plutôt un futur qui, vu de la position privilégiée qui est la nôtre aujourd’hui, mérite d’être qualifié de « postbiologique », voire de « surnaturel ». C’est un monde dans lequel le genre humain sera balayé par une mutation culturelle et détrôné par sa propre progéniture artificielle. Les conséquences ultimes de ce bouleversement ne sont pas connues, bien que nombre d’étapes intermédiaires puissent être prévues et, pour certaines, aient déjà été franchies. Aujourd’hui, nos machines restent des créations élémentaires : elles exigent les soins maternels et l’attention constante que l’on doit aux nouveau-nés et ne méritent guère d’être qualifiées d’« intelligentes ». Mais, dès le siècle prochain, elles deviendront des entités aussi complexes que nous-mêmes, puis, bientôt, elles transcenderont tout ce que nous connaissons. Nous pourrons alors être fiers qu’elles se disent nos descendants.

 

Délivrés des pesantes contraintes de l’évolution biologique, ces enfants de notre esprit pourront se mesurer aux grands défis de l’univers. Nous autres humains bénéficierons un temps de leurs efforts, mais, tôt ou tard, tels des enfants biologiques, ils iront chercher fortune pour leur propre compte, tandis que nous, leurs vieux parents, nous éteindrons doucement. Perdra-t-on beaucoup à ce passage du flambeau ? Pas nécessairement, car nos rejetons pourront garder en mémoire presque tout ce qui nous concerne, peut-être même jusqu’aux détails du fonctionnement des esprits humains individuels.

Ce processus a commencé il y a environ cent millions d’années, lorsque certaines lignées génétiques ont trouvé le moyen de donner naissance à des animaux capables d’apprendre durant leur vie certains comportements de leurs aînés durant leur vie, au lieu d’en hériter en bloc à la conception. Une première étape a été franchie il y a dix millions d’années, lorsque nos ancêtres primates ont commencé à se servir d’outils faits d’os, de bâtons et de pierres. Le processus s’est à nouveau accéléré avec la maîtrise du feu et le développement de langages complexes, il y a environ un million d’années. Au moment où notre espèce est apparue, il y a environ cent mille ans, l’évolution culturelle, la mécanique implacable que nos gènes avaient involontairement fabriquée, avait acquis une dynamique irrésistible.

Au cours des derniers dix mille ans, les changements intervenus au sein du patrimoine génétique humain ont été dérisoires en regard des progrès foudroyants de la culture humaine. Nous avons d’abord assisté à une révolution agricole, suivie de l’établissement de vastes bureaucraties capables de lever des impôts pour subvenir à leurs besoins, du développement de l’écriture et, enfin, de l’émergence de classes oisives disposant du temps et de l’énergie nécessaires pour se consacrer à des occupations intellectuelles. Au cours du dernier millénaire, les inventions, à commencer par celle de l’imprimerie à l’aide de caractères mobiles, ont grandement accéléré le flot de l’information culturelle, et donc le rythme de son évolution.

Avec l’arrivée de la révolution industrielle, il y a deux cents ans, nous sommes entrés dans la phase finale, celle au cours de laquelle les substituts artificiels aux fonctions du corps humain, telles que soulever ou porter, sont devenus de plus en plus économiquement intéressants – et même indispensables. Puis, il y a une centaine  d’années, avec l’invention des premières machines à calculer réellement utilisables, nous avons, pour la première fois, été capables de reproduire quelques-unes des fonctions élémentaires, mais tout de même délicates, de l’esprit humain. Le pouvoir de calcul des machines a depuis été multiplié par un facteur mille tous les vingt ans.

Aujourd’hui, nous sommes très proches du moment où toutes les fonctions humaines, qu’elles soient physiques ou intellectuelles, connaîtront leur équivalent artificiel. Cette convergence des développements culturels aura pour incarnation le robot intelligent, machine capable de penser et de réagir comme un humain, bien que certaines de ses caractéristiques physiques ou intellectuelles puissent être non humaines. De telles machines seraient capables de mener plus loin notre évolution culturelle, de parfaire leur construction et leur sophistication, sans nous et sans les gènes qui nous constituent. Quand cela se produira, notre ADN se retrouvera au chômage : il aura perdu la course de l’évolution au profit d’une nouvelle forme de compétition. »

Extrait du livre de Hans Moravec,  »L’avenir des robots et l’intelligence humaine », publié aux éditions Odile Jacob.

Les risques de l’intelligence artificielle non maîtrisée

Les risques de l’intelligence artificielle non maîtrisée

 

Cédric Sauviat, polytechnicien, président de l’Association Française contre l’Intelligence Artificielle (AFCIA) critique les conséquences de l’IA dont il pense qu’elle absolument pas maîtrisée (tribune dans sciences critiques)

 

« Il y a  quelques semaines, un groupe de travail constitué de plusieurs institutions anglaises et américaines, dont les universités d’Oxford et de Cambridge, a publié un rapport édifiant intitulé « The Malicious Use of Artificial Intelligence » (« De l’Usage malveillant de l’IA » ¹).

Une vingtaine d’experts y décrivent les nouveaux dangers auxquels nous expose la technologie dans les cinq prochaines années.

Essaims de drones tueurs à reconnaissance faciale, rançongiciel profilant leurs cibles de manière automatique et sur une grande échelle, détournement de vidéos ou création de deepfakes (vidéo-montages hyperréalistes) aux fins de manipulation et de propagande, etc. Les scénarios ne manquent pas, limités par notre seul pouvoir d’imagination.

Disponibles un peu partout en libre accès, les algorithmes d’Intelligence Artificielle (IA) changent radicalement la donne en matière de sécurité. Là où une organisation malveillante devait investir du temps et de l’expertise pour préparer et mener à bien un petit nombre d’actions criminelles, il suffit désormais de quelques algorithmes courants et de la puissance de calcul de quelques serveurs pour agir avec efficacité et précision sur une vaste échelle.

POUR LA PREMIÈRE FOIS, LA QUESTION DE LA LIBRE DIFFUSION DES ALGORITHMES EST POSÉE.

Hier, l’investissement personnel des malfrats les exposait au risque d’être repérés et identifiés. Aujourd’hui, la délégation du travail à des « bots » garantit aux commanditaires un redoutable anonymat.

Contre ces nouvelles menaces, le panel d’experts reconnaît qu’il n’existe guère de parade évidente. Seule, disent-ils, la mise au point de systèmes défensifs plus intelligents encore pourrait permettre, sinon de prévenir, du moins d’endiguer les attaques. Incitant à une fuite en avant technologique dont les conséquences seront de fournir toujours davantage de moyens aux criminels potentiels.

Pour la première fois, la question de la libre diffusion des algorithmes est posée. Mais est-il vraiment possible de restreindre la diffusion de codes informatiques ?

 

LES EXPERTS DÉPASSÉS

 

Au même moment, diverses associations lancent une campagne pour obtenir l’interdiction des armes autonomes. L’un de leurs membres, l’informaticien Stuart Russell, a d’ailleurs présenté à l’Organisation des Nations-Unies (ONU), en novembre 2017, une sorte de docu-fiction ², très impressionnant, dans lequel on voit des essaims de drones tueurs plonger le monde dans un climat de terreur, en l’espace de quelques semaines.

La conclusion de Stuart Russell est sans appel : il faut d’urgence interdire les armes autonomes par convention internationale. Qui oserait le contredire ?

 

 

Le raisonnement, toutefois, souffre d’un petit problème. Pour être efficace, une interdiction légale exigerait que ces fameux drones n’utilisent pas une technologie en vente libre ! GPS, système de pilotage automatique, logiciel de reconnaissance faciale, tous ces gadgets figurent déjà dans votre smartphone. Il ne vous reste plus qu’à récupérer la poudre d’une balle de fusil, ou à accrocher une grenade, un cocktail Molotov ou carrément une paire de ciseaux sur votre drone pour en faire une arme intelligente !

On le voit donc, l’IA semble poser des problèmes insurmontables, même à ceux qui en sont, en principe, les experts – et c’est le cas de Stuart Russell.

 

UNE CONFIANCE EN DÉLIQUESCENCE

 

Si le champ des dérives criminelles s’annonce très vaste, que dire de celui des pratiques nuisibles, mais pas nécessairement illégales, qui deviendront possibles pour les individus, les associations ou les entreprises ? Dans un monde où la responsabilité juridique, ou même simplement morale, se dilue à proportion de la distance qu’intercalent Internet et algorithmes entre un acte et son auteur, ne faut-il pas craindre une déliquescence totale de la confiance en l’autre ? ³

GARANT DE LA CONFIANCE QUI PERMET LE LIEN SOCIAL, L’ÉTAT DE DROIT DEVRA, DE PLUS EN PLUS, S’EFFACER DERRIÈRE LES ENTREPRISES TECHNOLOGIQUES QUI MAÎTRISENT LA « BONNE » INTELLIGENCE ARTIFICIELLE.

On discerne alors le rôle que seront appelées à jouer les grandes entreprises technologiques dans la préservation de la confiance et la défense contre la malveillance. Elles seules détiendront les moyens de contrecarrer les pratiques nuisibles, comme par exemple d’authentifier une vidéo, de bloquer des infiltrations de virus informatiques générés automatiquement ou encore de protéger la multitude des objets connectés dont nous sommes, de plus en plus, entourés et dépendants. Déjà, ces entreprises disposent de leviers considérables, et en grande partie discrétionnaires, sur la visibilité d’une société ou la diffusion d’une information.

Garant de la confiance qui permet le lien social, l’État de droit devra, de plus en plus, s’effacer derrière les entreprises technologiques, celles qui maîtrisent la « bonne » IA et peuvent assurer cette mission. Tendance en tout point comparable aux conditions d’émergence de la féodalité dans l’Europe médiévale.

 

UNE FUITE EN AVANT DÉBRIDÉE

 

Alléguant la sauvegarde de la souveraineté politique ou économique, la plupart des responsables politiques estiment qu’il est crucial de favoriser le développement d’une « industrie nationale » de l’Intelligence Artificielle. C’est qu’ils redoutent la mainmise des géants technologiques étrangers sur les données, et donc sur les personnes.

LE DÉVELOPPEMENT TECHNIQUE EST TOTALEMENT DÉBRIDÉ PARCE QUE, NULLE PART ET À AUCUN MOMENT, LES CONCEPTEURS D’INTELLIGENCE ARTIFICIELLE ET LES LÉGISLATEURS NE FIXENT LA MOINDRE LIMITE.

Ils craignent, en outre, l’effet des destructions d’emplois liées à la robotisation ⁴, et brandissent désormais comme une vérité indiscutable l’argument-choc selon lequel « les économies les plus équipées en intelligence artificielle et en robotique sont celles qui connaissent le moins de chômage ». ⁵

Mais le rêve de donner naissance à des champions européens de l’IA n’est pas sans contradiction dans une économie ouverte et globalisée, où lesdits champions peuvent, à tout moment, passer sous contrôle étranger.

Les entreprises technologiques promouvant l’IA, largement transnationales, l’ont bien compris puisqu’elles omettent soigneusement toute référence à une bien illusoire défense de souveraineté. Il n’est guère besoin d’invoquer celle-ci, au demeurant, pour que la compétition économique et la promesse de miracles techniques suffisent à alimenter une fuite en avant totalement débridée. »

 

Il s’agit donc de doubler les capacités installées d’énergies renouvelables d’ici à 2050, en multipliant par 2,5 les capacités installées d’éolien, et par 5 ou 6 celles de photovoltaïque. Le ministère souligne que ces ambitions ne posent pas de problème en termes d’usage des sols ou de pression foncière, puisqu’il s’agit de passer de 8.000 éoliennes installées aujourd’hui à moins de 15.000 (du fait des gains de performances), et pour le solaire, d’occuper 365 kilomètres carrés supplémentaires au sol et 175 kilomètres carrés de toitures pour le photovoltaïque.

Concernant la biomasse, sur laquelle nous pourrions connaître un déficit entre des besoins évalués à 460 TWh et un potentiel de 430 TWh, et qu’il pourrait être difficile d’importer dans la mesure où nos voisins pourraient se trouver dans des situations similaires, la PPE prévoit que le soutien financier soit réservé aux seules installations visant à produire de la chaleur.

Le biométhane (produit par méthanisation à partir de déchets organiques ménagers ou agricoles) voit ses ambitions stoppées nettes. Alors que le coût de production actuel est d’environ 95 euros par mégawattheure (MWh) produit, le gouvernement conditionne l’objectif de 10% de gaz vert dans le réseau en 2030 à une baisse des coûts à hauteur de 67 euros/MWh. Sinon, l’objectif restera limité à 7%, à comparer avec les ambitions d’un GRDF qui proposait 30%. Cette position, justifiée par une attention toute particulière portée aux coûts de la transition écologique sur fond de mouvement des gilets jaunes, semble assez antagoniste avec le constat d’électricité éolienne et photovoltaïque qui ont vu leurs coûts divisés par dix en dix ans pour des puissances équivalentes… précisément grâce aux économies d’échelle. Celles réalisées au niveau de la fabrication de panneaux solaires en Chine, mais aussi dans une certaine mesure, celles autorisées par le volume total des appels d’offres. On peut craindre que ces perspectives modestes ne suscitent pas suffisamment d’investissements pour permettre de telles baisses de coûts. Et plus largement que cette préférence aux technologies matures sur lesquelles la France – et même l’Europe – ont laissé le leadership à d’autres régions du monde n’entrave le développement de filières industrielles domestiques sur des technologies encore émergentes.

Intelligence artificielle : L’analyse prédictive la nouvelle mode

Intelligence artificielle : L’analyse prédictive la nouvelle mode

 

 

• Dans un papier (sponsorisé par Orange !) l’intelligence artificielle est encore mise à toutes les sauces ; cette fois au service de l’analyse prédictive, la nouvelle mode. Une mode pourtant ancienne puisqu’il s’agit ni plus ni moins que d’exploiter des statistiques. L’analyse prédictive utilise en effet différentes méthodologies statistiquse à partir de données et de la théorie des jeux qui analysent des faits présents et passés pour faire des hypothèses prédictives. En faite une analyse de données passées en tenant compte des comportements pour faire de la prospective au service par exemple d’études de marché, de suivi d’installation ou encore de suivi de la santé. Un mélange de technologies nouvelles de l’information articulée avec une analyse des statistiques et des comportements. Pas vraiment un exploit de l’intelligence artificielle car ces techniques statistiques sont connues depuis au moins 30 ans.
• (Extrait de l’article de l’article)

 

« Les avancées de l’intelligence artificielle (IA) conjuguées au big data ouvrent sans cesse de nouvelles perspectives. Parmi elles : l’analyse prédictive. De plus en plus performante grâce au machine learning, cette dernière est capable, en croisant des données de différentes sources, de prédire l’impact de phénomènes ou d’inventer de nouveaux services. Portrait d’une technologie de prédiction qui ne laisse rien au hasard.

Des progrès époustouflants… fondés sur la confiance des clients

Les progrès des modèles prédictifs s’accélèrent et génèrent sans cesse de nouvelles applications dans de nombreux secteurs économiques. En matière d’agriculture, il est ainsi possible d’anticiper les dépenses énergétiques des machines et d’être alerté en cas de besoin d’une maintenance préventive. Citons aussi le compteur intelligent Linky qui permet de fournir des recommandations pour optimiser la consommation grâce aux données collectées. Sans oublier l’industrie automobile et les véhicules connectés, qui marient intelligence artificielle et data science pour toujours plus d’autonomie. L’analyse prédictive repose sur l’exploitation de la data en échange d’un service facilitateur à valeur ajoutée pour les clients. La question de la confiance est donc primordiale. Un environnement où les utilisateurs peuvent partager leurs données en toute sécurité et confidentialité est crucial pour la réussite des modèles prédictifs. Le RGPD* va dans ce sens.

E-santé : quand l’IA aide à la prévention

L’IA et ses capacités prédictives améliorent la qualité des soins, la prévention ou l’aide au diagnostic du médecin. Un exemple ? La prévention de crises de certaines maladies et la télémédecine. Les poussées de rhumatismes inflammatoires peuvent ainsi être détectées grâce à un capteur d’activité sur le patient, couplé au machine learning. Les data scientists des Orange Labs, en partenariat avec l’hôpital de la Pitié-Salpêtrière et Sanoïa, ont développé un modèle repérant ces poussées avec une fiabilité de 96 %.

Maintenance prédictive : vers une industrie et une énergie intelligentes

Dans le secteur industriel, l’IA permet également, grâce aux modèles prédictifs, de prévoir les pannes avant qu’elles ne se produisent. L’ascensoriste ThyssenKrupp peut ainsi remplacer les pièces avant leur usure.

Autre exemple : le fabricant de chaudières et chauffe-eau à gaz, e.l.m. leblanc, propose grâce à l’IoT et l’IA un service de contrôle à distance et de maintenance curative et prédictive de ses chaudières. La solution déployée collecte les données de la chaudière et alerte les techniciens en cas de problème. Leurs interventions sont plus efficaces, car l’IA permet de cibler les causes probables du dysfonctionnement en analysant les données en temps réel. La plateforme génère aussi elle-même des alertes par anticipation, via des algorithmes de maintenance prédictive.

Smart city : l’IA au service des citoyens

L’IA permet aussi aux collectivités d’optimiser la performance énergétique des bâtiments publics et de simplifier l’usage des services de la collectivité, comme les transports. Un exemple : la commune de Cenon, près de Bordeaux, a installé des capteurs connectés dans les chaudières des bâtiments municipaux les plus énergivores pour améliorer leur performance énergétique.

Ressources humaines : quand le recrutement passe au 4.0

En matière de gestion des ressources humaines, l’analyse prédictive peut aider à prévoir les évolutions du marché de l’emploi, comme chez Adecco. Mais aussi à recruter les candidats possédant les comportements et soft skills adéquats pour un poste, grâce notamment à l’analyse de données et des tests de personnalité.

Autre application RH : anticiper des risques d’absentéisme en croisant des données épidémiologiques, de santé et de transports pour faire de la prévention.

Retail : prédire pour toujours plus personnaliser

Connaître le parcours client est la clé du succès dans le domaine du retail. Les modèles prédictifs par l’analyse et le croisement des données permet aux acteurs du secteur de pousser automatiquement des produits potentiellement pertinents aux consommateurs. Une société de l’agroalimentaire pourrait ainsi suggérer des listes de courses en fonction des données remontées par un réfrigérateur connecté par exemple. Avec l’accord et la confiance du client, il est aussi possible de croiser des données de l’entreprise avec des informations disponibles en open data. Résultats : des recommandations personnalisées, de loisirs, de sports, de vêtements, de voyages… ». Finalement surtout des études de marché ! »

Intelligence artificielle ou technolâtrie ?

Intelligence artificielle ou  technolâtrie ?

Un article forcément très marqué diffusé par l’ACIA (association française contre intelligence artificielle),  sans doute excessif, mais qui mérite d’être lu.

« Que les individus soient en perte de repères dans un monde déboussolé, c’est à fois un cliché et un constat certainement globalement juste. Mais il est un vieux repère de la modernité qui a résisté contre vents et marées et constituera peut-être l’ultime d’entre eux : l’enthousiasme, la foi, voire la vénération pour l’évolution technique, qui prend aujourd’hui la forme des technologies numériques. Propagé par les politiques, les économistes et les médias, cet optimisme technologique (ou technoptimisme) nous aveugle et nous empêche de prendre la mesure des conséquences humaines et écologiques du déferlement numérique et robotique qui saisit l’humanité depuis une vingtaine d’années. Bertrand Méheust, nous sommes face à un « nouvel âge de l’esprit » que plus rien ne pourra arrêter sur sa lancée… sauf un effondrement de la mégamachine (ce qui ne saurait tarder). Savoir que tout cela se terminera un jour ne nous prémunit pas hic et nunc contre la dangereuse mutation anthropologique que cela implique, même si l’on fait partie – ce qui est mon cas – des derniers réfractaires du smartphone, condamnés à vivre avec amertume l’évanouissement à marche forcée d’un monde qui nous était jusqu’il y a peu familier. L’économie numérique représente bien une rupture majeure, et il serait vain de vouloir nous comparer aux époques antérieures. Rien de cyclique ici, sous le soleil de l’innovation, rien que du nouveau, comme l’on bien vu les camarades de Pièces et main d’œuvre. Entre fantasme et réalité, le transhumanisme, l’extropianisme et la singularité technologique représentent les bonheurs et accomplissements que nous promettent les techno-prophètes dans le courant de ce siècle. Pour ce, ils peuvent compter sur l’appui des « progressistes » de gauche comme de droite, qui voient dans toute extension des droits individuels des bienfaits que seuls des réactionnaires pourraient critiquer, même si ces droits passent de plus en plus par le truchement de la technoscience, comme, par exemple, les nouvelles techniques de procréation. Que faire ? D’abord décréter un moratoire sur l’innovation incontrôlée, puis organiser une désescalade technique, voilà une condition nécessaire pour reconstruire la cohésion sociale dans une société qui se voudrait démocratique, écologique et décente.

L’actualité des livres vient à la rescousse.

Dans Seuls ensemble. De plus en plus de technologies, de moins en moins de relations humaines (éd. L’Echappée, 2015), la psychologue et anthropologue du MIT Sherry Turkle (née en 1948) a étudié l’impact des nouvelles technologies en Intelligence Artificielle sur la « façon dont nous nous pensons, dont nous pensons nos relations avec autrui et le sens de notre humanité » (p.20). Pour ce, elle s’est appuyée sur deux cent cinquante observations cliniques, principalement d’enfants, d’adolescents et de personnes âgées.

La première partie traite de leur rapport avec les robots – aux doux noms de Tamagochis, Furby, AIBO, My Real Baby, etc… – pour constater la facilité avec laquelle nous projetons sur eux nos sentiments et avons des attentes démesurées sur ce qu’ils pourraient nous apporter en terme d’aide, mais aussi de réconfort, d’amitié et même de sexualité !

D’une part, la notion d’authenticité perd de sa substance au profit d’une nouvelle définition de la vie « à mi-chemin entre le programme inanimé et la créature vivante » (p.61). D’autre part, les êtres humains sont remis en cause dans leur capacité à prendre soin les uns des autres. Les robots, « nous sommes aujourd’hui prêts, émotionnellement et je dirais même philosophiquement, à les accueillir » (p.31). Ces « créatures » robotiques sont traitées comme des égaux et non plus comme des machines, elles sont placées sur le terrain du sens, « alors qu’elles n’en dégagent aucun. » Elles sont de plus en plus présentes dans les maisons de retraite où elles remplacent le personnel manquant ou défaillant. En majorité, les pensionnaires s’y attachent, rentrent en intimité avec elles. A l’argument selon lequel les machines ne peuvent éprouver d’affects, les roboticiens répondent sans rire qu’ils en fabriqueront un jour de manière synthétique.

« Il est tellement aisé d’être obnubilé par la technologie et de ne plus chercher à développer notre compréhension de la vie », conclut l’auteure (p.170).

La seconde partie concerne l’internet avec ses réseaux sociaux, ses jeux en ligne, sa Second Life et ses sites de confession. Les effets de leur omniprésence dans notre quotidien sont loin d’être négligeables. D’abord celui d’une attention fragmentée permanente aboutissant au multitasking (multitâches) chez les jeunes, cette faculté qui impressionne tant les aînés, alors que les études en psychologie montrent que lorsque l’on fait plusieurs choses à la fois, on fractionne son attention et on les fait toutes moins bien. Ensuite, un effacement de la frontière entre la vie professionnelle et la vie privée, quand le smartphone reste allumé jour et nuit. Même en vacances, le cadre américain reçoit environ 500 courriels, plusieurs centaines de textos et 40 appels par jour !

Résultat : faute de temps, tous nos interlocuteurs sont réifiés, nous les traitons comme des objets. Turkle a aussi étudié le cas des natifs numériques (digital natives), les générations nées après 1990 pour lesquelles le web représente un liquide amniotique non questionné. « Je suis connecté, donc je suis ! » Et alors ?, répondront les technoptimistes.

« Ce n’est pas parce qu’un comportement devient normal qu’il perd la dimension problématique qui l’avait auparavant fait considérer comme pathologique », précise l’auteure (p.283).

Les jeux en ligne et Second Life nous entraînent dans un monde virtuel fait de simulacres, qu’on finit par préférer à notre vie réelle, les plus accros y passant la moitié de leur temps de veille ! Nous en demandons moins aux êtres humains et plus à la technologie, à laquelle nous appliquons une pensée magique : tant que je suis connecté, je suis en sécurité, et les gens que j’aime ne disparaîtront pas. Facebook est un fauve insatiable qu’il faut alimenter en permanence de nouvelles « positives » sous forme de textes, de photos, de vidéos, qui envahissent la vie privée, dans une simplification et un appauvrissement de nos relations.

A la fin du livre, nous apprenons qu’aujourd’hui de plus en plus de jeunes Américains ont la nostalgie du monde d’avant la connexion généralisée, quand les parents étaient attentifs, investis et engagés envers leurs enfants. Un début d’espoir de révolte ? Ce copieux essai de 523 pages fait le point sur un phénomène toujours sous-estimé dans ses retombées sociétales. Et encore, Turkle n’aborde pas ici l’aspect anti-écologique de ces technologies. Que resterait-il bien pour les défendre ? Chers lecteurs de France, voilà un excellent sujet pour le bac ! »

Bernard Legros

Article paru à l’origine dans Kairos, revue technocritique belge, n°19 avril/mai 2015

Bernard Legros est enseignant, essayiste, membre de l’Appel pour une Ecole Démocratique et membre fondateur du Mouvement politique des Objecteurs de Croissance (Belgique)

Intelligence artificielle : le risque des technoprophètes » (Alexandre Templier)

 Intelligence artificielle : le risque des technoprophètes » (Alexandre Templier)

Débarrasser l’intelligence artificielle de tous ses oripeaux mystico-religieux pour une approche  au service de l’humain, recommande  l’expert en IA, Alexandre Templier, dans une tribune au « Monde ». Extrait :

« . Qui eût cru, qu’un jour, la technologie se parerait des atours de la religion ? Une parure sémantique et symbolique qui suscite l’étonnement et mérite l’examen. Par exemple, lorsqu’il cofonda la Singularity University en 2008, Ray Kurzweil, le pape de l’intelligence artificielle (IA), a établi une charte d’engagement dont certains termes semblent sortis tout droit d’un livre religieux. On y parle de « communauté », de « chapitre », un rassemblement de religieux, ou encore de « credo », une formule contenant les articles fondamentaux d’une foi religieuse. Il y a quelques mois, Anthony Lewandoski, ex-ingénieur chez Google et Uber, fondait « The way of the future ». Une organisation religieuse dont le but est, selon son fondateur, « de développer et promouvoir la prise de conscience d’une divinité basée sur l’intelligence artificielle pour améliorer la société ». S’il est pour le moment difficile d’identifier les intentions réelles – ironie ou buzz – de l’ex-ingénieur en chef de Google, cette initiative ajoute du concret aux appropriations évoquées précédemment. Toutefois, pour devenir une « religion », l’intelligence artificielle présente deux lacunes de taille : l’absence de transcendance et le manque d’une perspective claire. S’il fallait trouver un équivalent au mot transcendance dans notre société matérialiste, le terme d’autorité régulatrice conviendrait parfaitement. Dans le monde religieux, la divinité dit le Ciel et la Terre, dans celui de l’intelligence artificielle il en va autrement. Aucune autorité n’est parvenue à en définir le périmètre. Conscients de son potentiel, les Etats commencent à forger des plans pour en favoriser le développement, à défaut de la réguler. …. cette notion d’encadrement semble loin dans l’agenda. »

Intelligence artificielle : réalités et gadgets (Charles Edouard Bouée)

 

 Dans une tribune des Échos, Charles Edouard Bouée,  président de Roland Berger, fait la part de ce qui relève réellement des avancés en matière d’intelligence artificielle et ce qui relève des gadgets.

«  La septicémie, qui représente une des premières causes de mortalité en milieu hospitalier, pourrait bientôt appartenir au passé. Comment ? Grâce à un algorithme d’intelligence artificielle capable de détecter, une demi-heure avant qu’elle ne survienne, une chute brutale de la pression artérielle très souvent indicatrice d’une infection du sang. Trente minutes suffisent à l’équipe soignante pour intervenir, sauver ainsi des milliers de vies et économiser des milliards de dollars. Une telle avancée est le fruit de la collaboration entre l’expert en intelligence artificielle Antoine Blondeau, fondateur de  Sentient Technologies, et les chercheurs du MIT . On est bien loin du buzz que des entreprises peu scrupuleuses font parfois, en estampillant « IA » des solutions technologiques qui pour certaines n’ont rien à voir avec l’intelligence artificielle, pour attirer les investisseurs et les clients. Après le « green washing », consistant à donner un vernis durable à des produits et des services qui ne le sont pas, l’« AI washing » nous promet monts et merveilles avec des solutions qui ne sont que des gadgets. C’est que derrière le succès actuel du terme « intelligence artificielle » – d’ailleurs choisi un peu par hasard en 1956 par John McCarthy, se cachent des technologies complexes : le « deep learning », qui permet la reconnaissance des objets et des mots, associé au « machine reasoning », qui permet d’élaborer des modèles prédictifs, les deux étant complétés par des algorithmes génétiques et des codes écrits par la machine elle-même. Si bien que le grand public a parfois du mal à comprendre les tenants et les aboutissants. D’où la difficulté à savoir ce qui relève vraiment de l’IA : de nombreux produits ou services qui disent reposer sur de l’intelligence artificielle, ne mobilisent en réalité que des logiciels d’automatisation basiques. Un autre mirage consiste à faire croire, en particulier aux chefs d’entreprises, que l’intelligence artificielle est toujours la réponse la plus adaptée pour accroître l’efficacité d’un processus. C’est loin d’être systématiquement le cas. Ainsi, lorsqu’on cherche une réponse à une question précise, les outils analytiques de Business Intelligence sont souvent plus pertinents. Mais label « IA » attire le chaland… et certains en abusent. Si, comme tous les eldorados, l’intelligence artificielle a ses charlatans, elle a aussi ses magiciens. Antoine Blondeau, Chris Boos, fondateur de la société Arago , Tomaso Poggio du MIT , Yann Le Cun de Facebook AI Research, Sean Tang, fondateur de SenseTime , Jürgen Schmidhuber du laboratoire suisse Idsia, Demis Hassabis de Deepmind … venus de tous les continents, ils travaillent ensemble autant dans les laboratoires, les universités que les entreprises. Ils forment une communauté d’experts capables de faire émerger un nouveau monde, sans bruit, loin des médias. On sait que l’intelligence artificielle sera la rupture technologique, sociale et économique des décennies à venir. Et il est certain que les prochaines licornes seront des entreprises d’intelligence artificielle. Mais la bataille ne se joue pas toujours où on le croit. Ni chez ceux qui en parlent beaucoup, ni forcément chez les GAFA ou leurs cousins chinois, les BAT. Les innovations véritables sont le fait de scientifiques et de techniciens qui n’aiment pas la lumière. Quant à ceux qui bluffent, en prétendant développer des solutions d’IA quand ce n’est pas le cas, ils pourraient bien être pris à leur propre piège. Car après DeepBlue aux échecs et Alphago au jeu de Go, le programme Libratus a envoyé au tapis, en janvier 2017, quatre joueurs de poker professionnels . En nous laissant face à ce constat vertigineux : l’intelligence artificielle sait donc bluffer, et intégrer le bluff des autres à sa propre stratégie ! Il ne lui reste plus qu’à apprendre à démasquer les bluffeurs. ».

Problématique de l’Intelligence artificielle : limite de la prédictivité des algorithmes, éthique et régulation

Problématique de l’Intelligence artificielle : limite de la prédictivité des algorithmes, éthique et régulation

 

Vincent Berthet, expert en IA, pose les limites de prédictivité de l’intelligence artificielle et le futur cadre de sa régulation (article de la Tribune)

)

 

« Dans les années 1950, Paul Meehl mit en exergue le fait que des formules objectives sont souvent plus performantes que le jugement humain pour des décisions et des prédictions récurrentes. Par exemple, si une université dispose d’une base de données historique comportant pour chaque étudiant des informations telles que ses résultats au lycée, son score à un test d’aptitude, son résultat final en première année, etc., un modèle statistique permettra de capturer les relations entre ces variables. On peut alors montrer qu’un modèle basé seulement sur les résultats au lycée et le score à un test d’aptitude prédit mieux la réussite des étudiants qu’un conseiller scolaire. Depuis, les progrès technologiques ont donné à ce phénomène une tout autre dimension. D’un côté, l’explosion de la quantité d’informations disponibles fait que les bases de données historiques sont devenues gigantesques, ce que l’on appelle le big data. D’un autre côté, l’intelligence artificielle (IA) rend les outils automatisés de traitement de l’information toujours plus performants. Grâce à des techniques statistiques sophistiquées telles que l’apprentissage profond (le deep learning), les algorithmes actuels sont capables de capturer les régularités cachées dans de larges bases de données historiques. Ce couplage de l’IA et du big data tend à automatiser un nombre croissant de décisions humaines récurrentes dans tous les secteurs d’activités. Cette automatisation de décisions routinières – simples et répétitives – permet notamment le recentrage des professionnels sur des tâches où leur valeur ajoutée est la plus forte.

Tout comme le modèle simple de prédiction de la réussite des étudiants, les algorithmes qui ont appris une relation critère-indices en parcourant une base de données historiques peuvent être utilisés comme des outils prédictifs. Les sociétés modernes ont ainsi fait place au recrutement prédictif, la police prédictive, la justice prédictive, la médecine prédictive, etc. qui permettent aujourd’hui d’anticiper (et peut-être demain de remplacer) des décisions humaines. En particulier, le développement récent d’algorithmes prédictifs dans le domaine du droit, où la jurisprudence constitue une base de données historiques, a bousculé les codes et les habitudes de la profession. L’ouverture des bases de jurisprudence dans le cadre de l’open data a permis à une nouvelle génération de startup (les Legal Tech) de développer des logiciels qui scannent la jurisprudence et délivrent un pronostic sur les risques et les chances de succès des justiciables (par exemple, l’évaluation des indemnisations octroyées à un salarié dans le cadre de l’application des barèmes en matière de licenciement). Cette augmentation de la prédictibilité des décisions de justice par les algorithmes de justice prédictive permet d’accélérer le règlement des litiges. Cependant, si cette approche est particulièrement adaptée aux pays de common law (comme le Royaume-Uni) où la source principale du droit est la jurisprudence, elle est moins pertinente pour les pays de droits de tradition civiliste (comme la France) où la source principale du droit est le droit codifié. Quoi qu’il en soit, les algorithmes prédictifs font et feront évoluer les pratiques, en droit comme ailleurs, et ces évolutions – inévitables – devront être encadrées afin qu’elles soient maîtrisées plutôt que subies.

L’automatisation croissante de décisions jusque-là assurées par des humains soulève des interrogations. Outre les considérations économiques, une première question importante concerne le caractère figé de telles décisions. Autrement dit, le traitement automatisé des décisions écarte la singularité de chaque décision. Dans son intervention sur la justice prédictive le 12 février 2018, Jean‑Marc Sauvé, Vice-président du Conseil d’État, attire l’attention sur ce point en soulignant que le propre de la justice est que chaque affaire soit examinée pour ce qu’elle est, avec sa part d’originalité et d’irréductible complexité qui ne saurait être systématisée par un logiciel, aussi puissant soit-il.

À son époque, Paul Meehl releva cette limite et l’illustra au travers du « cas de la jambe cassée ». Prenez une personne qui se rend tous les mardis soir au même cinéma. Une règle actuarielle simple consiste à prédire que chaque mardi soir, la probabilité que cette personne se rende dans le cinéma est très élevée. Un lundi, cependant, cette personne se casse la jambe. Dans ce cas précis, un humain pourra ajuster sa prédiction en revoyant la probabilité à la baisse alors que le modèle actuariel continuera à faire la même prédiction, qui en l’occurrence sera absurde.

Une seconde question posée par l’automatisation des décisions renvoie aux considérations éthiques. Ces considérations sont d’abord générales, elles concernent par exemple la question de l’autonomie et de l’identité humaines face aux machines, les biais et les discriminations, et le respect des droits et libertés fondamentaux. Mais les considérations morales renvoient aussi à des questions concrètes que pose l’utilisation de dispositifs automatisés. Par exemple, en cas d’accident inévitable, un véhicule autonome doit-il être programmé pour sacrifier la vie des passagers ou bien celle des piétons ? Dans le cadre du projet « Moral Machine » mené en partenariat avec des universités américaines et débuté en 2016, le psychologue Jean‑François Bonnefon et ses collaborateurs ont mis en ligne des tests qui simulent des situations où une voiture autonome doit choisir entre différents cas d’accidents inévitables.

La programmation des véhicules autonomes en cas d’accident inévitable est un exemple de cas concret qui traduit inévitablement un choix moral. La recherche scientifique sur les préférences morales des individus peut aider à identifier les critères éthiques pour fonder ce choix moral. L’automatisation des décisions grâce à l’IA peut donner lieu à de réels progrès, tels que des décisions plus transparentes et moins partiales. Aussi, se posent des questions fondamentales sur les conséquences économiques, les enjeux éthiques, et l’encadrement juridique de cette évolution. »

Intelligence artificielle : grosses offres d’emplois

La demande a plus que doublé en 2017 par rapport à l’année précédente, a annoncé l’APEC jeudi.

Au total, l’APEC a diffusé 2.398 offres de postes de cadres en intelligence artificielle l’an dernier, contre 1.127 offres en 2016, précises l’association dans une étude sur la « tendance des métiers dans l’industrie ».

« Les opportunités d’emploi sont réelles auprès des entreprises de services du numérique (ESN), des cabinets de conseil et gestion des entreprises ou d’ingénierie-recherche et développement », selon les résultats de cette étude. Au cours des années 2016 et 2017, quatre offres d’emploi de cadres en intelligence artificielle sur dix (42%) provenaient de « sociétés d’activités informatiques (ESN notamment) », principale source de ces offres, « loin devant les activités de conseil et gestion des entreprises (19%) et les sociétés d’ingénierie-recherche et développement (11%) », souligne l’APEC. Au cours des années 2016 et 2017, « près des deux tiers » (63%) des offres ont été émises par des entreprises installées en Île-de-France, loin devant les autres régions, selon l’étude. Viennent ensuite Auvergne-Rhône-Alpes et Occitanie, qui rassemblent à elles deux « 16% des offres ».

Prospective-Intelligence artificielle : limite de la prédictivité des algorithmes, éthique et régulation

Prospective-Intelligence artificielle : limite de la prédictivité des algorithmes, éthique et régulation

 

Vincent Berthet, expert en IA pose les limites de prédictivité de l’intelligence artificielle et le futur cadre de sa régulation (article de la Tribune)

)

 

« Dans les années 1950, Paul Meehl mit en exergue le fait que des formules objectives sont souvent plus performantes que le jugement humain pour des décisions et des prédictions récurrentes. Par exemple, si une université dispose d’une base de données historique comportant pour chaque étudiant des informations telles que ses résultats au lycée, son score à un test d’aptitude, son résultat final en première année, etc., un modèle statistique permettra de capturer les relations entre ces variables. On peut alors montrer qu’un modèle basé seulement sur les résultats au lycée et le score à un test d’aptitude prédit mieux la réussite des étudiants qu’un conseiller scolaire. Depuis, les progrès technologiques ont donné à ce phénomène une tout autre dimension. D’un côté, l’explosion de la quantité d’informations disponibles fait que les bases de données historiques sont devenues gigantesques, ce que l’on appelle le big data. D’un autre côté, l’intelligence artificielle (IA) rend les outils automatisés de traitement de l’information toujours plus performants. Grâce à des techniques statistiques sophistiquées telles que l’apprentissage profond (le deep learning), les algorithmes actuels sont capables de capturer les régularités cachées dans de larges bases de données historiques. Ce couplage de l’IA et du big data tend à automatiser un nombre croissant de décisions humaines récurrentes dans tous les secteurs d’activités. Cette automatisation de décisions routinières – simples et répétitives – permet notamment le recentrage des professionnels sur des tâches où leur valeur ajoutée est la plus forte.

Tout comme le modèle simple de prédiction de la réussite des étudiants, les algorithmes qui ont appris une relation critère-indices en parcourant une base de données historiques peuvent être utilisés comme des outils prédictifs. Les sociétés modernes ont ainsi fait place au recrutement prédictif, la police prédictive, la justice prédictive, la médecine prédictive, etc. qui permettent aujourd’hui d’anticiper (et peut-être demain de remplacer) des décisions humaines. En particulier, le développement récent d’algorithmes prédictifs dans le domaine du droit, où la jurisprudence constitue une base de données historiques, a bousculé les codes et les habitudes de la profession. L’ouverture des bases de jurisprudence dans le cadre de l’open data a permis à une nouvelle génération de startup (les Legal Tech) de développer des logiciels qui scannent la jurisprudence et délivrent un pronostic sur les risques et les chances de succès des justiciables (par exemple, l’évaluation des indemnisations octroyées à un salarié dans le cadre de l’application des barèmes en matière de licenciement). Cette augmentation de la prédictibilité des décisions de justice par les algorithmes de justice prédictive permet d’accélérer le règlement des litiges. Cependant, si cette approche est particulièrement adaptée aux pays de common law (comme le Royaume-Uni) où la source principale du droit est la jurisprudence, elle est moins pertinente pour les pays de droits de tradition civiliste (comme la France) où la source principale du droit est le droit codifié. Quoi qu’il en soit, les algorithmes prédictifs font et feront évoluer les pratiques, en droit comme ailleurs, et ces évolutions – inévitables – devront être encadrées afin qu’elles soient maîtrisées plutôt que subies.

L’automatisation croissante de décisions jusque-là assurées par des humains soulève des interrogations. Outre les considérations économiques, une première question importante concerne le caractère figé de telles décisions. Autrement dit, le traitement automatisé des décisions écarte la singularité de chaque décision. Dans son intervention sur la justice prédictive le 12 février 2018, Jean‑Marc Sauvé, Vice-président du Conseil d’État, attire l’attention sur ce point en soulignant que le propre de la justice est que chaque affaire soit examinée pour ce qu’elle est, avec sa part d’originalité et d’irréductible complexité qui ne saurait être systématisée par un logiciel, aussi puissant soit-il.

À son époque, Paul Meehl releva cette limite et l’illustra au travers du « cas de la jambe cassée ». Prenez une personne qui se rend tous les mardis soir au même cinéma. Une règle actuarielle simple consiste à prédire que chaque mardi soir, la probabilité que cette personne se rende dans le cinéma est très élevée. Un lundi, cependant, cette personne se casse la jambe. Dans ce cas précis, un humain pourra ajuster sa prédiction en revoyant la probabilité à la baisse alors que le modèle actuariel continuera à faire la même prédiction, qui en l’occurrence sera absurde.

Une seconde question posée par l’automatisation des décisions renvoie aux considérations éthiques. Ces considérations sont d’abord générales, elles concernent par exemple la question de l’autonomie et de l’identité humaines face aux machines, les biais et les discriminations, et le respect des droits et libertés fondamentaux. Mais les considérations morales renvoient aussi à des questions concrètes que pose l’utilisation de dispositifs automatisés. Par exemple, en cas d’accident inévitable, un véhicule autonome doit-il être programmé pour sacrifier la vie des passagers ou bien celle des piétons ? Dans le cadre du projet « Moral Machine » mené en partenariat avec des universités américaines et débuté en 2016, le psychologue Jean‑François Bonnefon et ses collaborateurs ont mis en ligne des tests qui simulent des situations où une voiture autonome doit choisir entre différents cas d’accidents inévitables.

La programmation des véhicules autonomes en cas d’accident inévitable est un exemple de cas concret qui traduit inévitablement un choix moral. La recherche scientifique sur les préférences morales des individus peut aider à identifier les critères éthiques pour fonder ce choix moral. L’automatisation des décisions grâce à l’IA peut donner lieu à de réels progrès, tels que des décisions plus transparentes et moins partiales. Aussi, se posent des questions fondamentales sur les conséquences économiques, les enjeux éthiques, et l’encadrement juridique de cette évolution. »

 

Intelligence artificielle : limite de la prédictivité des algorithmes, éthique et régulation

 

Vincent Berthet, expert en IA pose les limites de prédictivité de l’intelligence artificielle et le futur cadre de sa régulation (article de la Tribune )

) 

 

« Dans les années 1950, Paul Meehl mit en exergue le fait que des formules objectives sont souvent plus performantes que le jugement humain pour des décisions et des prédictions récurrentes. Par exemple, si une université dispose d’une base de données historiques comportant pour chaque étudiant des informations telles que ses résultats au lycée, son score à un test d’aptitude, son résultat final en première année, etc., un modèle statistique permettra de capturer les relations entre ces variables. On peut alors montrer qu’un modèle basé seulement sur les résultats au lycée et le score à un test d’aptitude prédit mieux la réussite des étudiants qu’un conseiller scolaire. Depuis, les progrès technologiques ont donné à ce phénomène une tout autre dimension. D’un côté, l’explosion de la quantité d’informations disponibles fait que les bases de données historiques sont devenues gigantesques, ce que l’on appelle le big data. D’un autre côté, l’intelligence artificielle (IA) rend les outils automatisés de traitement de l’information toujours plus performants. Grâce à des techniques statistiques sophistiquées telles que l’apprentissage profond (le deep learning), les algorithmes actuels sont capables de capturer les régularités cachées dans de larges bases de données historiques. Ce couplage de l’IA et du big data tend à automatiser un nombre croissant de décisions humaines récurrentes dans tous les secteurs d’activités. Cette automatisation de décisions routinières – simples et répétitives – permet notamment le recentrage des professionnels sur des tâches où leur valeur ajoutée est la plus forte.

Tout comme le modèle simple de prédiction de la réussite des étudiants, les algorithmes qui ont appris une relation critère-indices en parcourant une base de données historiques peuvent être utilisés comme des outils prédictifs. Les sociétés modernes ont ainsi fait place au recrutement prédictif, la police prédictive, la justice prédictive, la médecine prédictive, etc. qui permettent aujourd’hui d’anticiper (et peut-être demain de remplacer) des décisions humaines. En particulier, le développement récent d’algorithmes prédictifs dans le domaine du droit, où la jurisprudence constitue une base de données historiques, a bousculé les codes et les habitudes de la profession. L’ouverture des bases de jurisprudence dans le cadre de l’open data a permis à une nouvelle génération de startup (les Legal Tech) de développer des logiciels qui scannent la jurisprudence et délivrent un pronostic sur les risques et les chances de succès des justiciables (par exemple, l’évaluation des indemnisations octroyées à un salarié dans le cadre de l’application des barèmes en matière de licenciement). Cette augmentation de la prédictibilité des décisions de justice par les algorithmes de justice prédictive permet d’accélérer le règlement des litiges. Cependant, si cette approche est particulièrement adaptée aux pays de common law (comme le Royaume-Uni) où la source principale du droit est la jurisprudence, elle est moins pertinente pour les pays de droits de tradition civiliste (comme la France) où la source principale du droit est le droit codifié. Quoi qu’il en soit, les algorithmes prédictifs font et feront évoluer les pratiques, en droit comme ailleurs, et ces évolutions – inévitables – devront être encadrées afin qu’elles soient maîtrisées plutôt que subies.

L’automatisation croissante de décisions jusque-là assurées par des humains soulève des interrogations. Outre les considérations économiques, une première question importante concerne le caractère figé de telles décisions. Autrement dit, le traitement automatisé des décisions écarte la singularité de chaque décision. Dans son intervention sur la justice prédictive le 12 février 2018, Jean‑Marc Sauvé, Vice-président du Conseil d’État, attire l’attention sur ce point en soulignant que le propre de la justice est que chaque affaire soit examinée pour ce qu’elle est, avec sa part d’originalité et d’irréductible complexité qui ne saurait être systématisée par un logiciel, aussi puissant soit-il.

À son époque, Paul Meehl releva cette limite et l’illustra au travers du « cas de la jambe cassée ». Prenez une personne qui se rend tous les mardis soir au même cinéma. Une règle actuarielle simple consiste à prédire que chaque mardi soir, la probabilité que cette personne se rende dans le cinéma est très élevée. Un lundi, cependant, cette personne se casse la jambe. Dans ce cas précis, un humain pourra ajuster sa prédiction en revoyant la probabilité à la baisse alors que le modèle actuariel continuera à faire la même prédiction, qui en l’occurrence sera absurde.

Une seconde question posée par l’automatisation des décisions renvoie aux considérations éthiques. Ces considérations sont d’abord générales, elles concernent par exemple la question de l’autonomie et de l’identité humaines face aux machines, les biais et les discriminations, et le respect des droits et libertés fondamentaux. Mais les considérations morales renvoient aussi à des questions concrètes que pose l’utilisation de dispositifs automatisés. Par exemple, en cas d’accident inévitable, un véhicule autonome doit-il être programmé pour sacrifier la vie des passagers ou bien celle des piétons ? Dans le cadre du projet « Moral Machine » mené en partenariat avec des universités américaines et débuté en 2016, le psychologue Jean‑François Bonnefon et ses collaborateurs ont mis en ligne des tests qui simulent des situations où une voiture autonome doit choisir entre différents cas d’accidents inévitables.

La programmation des véhicules autonomes en cas d’accident inévitable est un exemple de cas concret qui traduit inévitablement un choix moral. La recherche scientifique sur les préférences morales des individus peut aider à identifier les critères éthiques pour fonder ce choix moral. L’automatisation des décisions grâce à l’IA peut donner lieu à de réels progrès, tels que des décisions plus transparentes et moins partiales. Aussi, se posent des questions fondamentales sur les conséquences économiques, les enjeux éthiques, et l’encadrement juridique de cette évolution. »