Archive pour le Tag 'Bouée)'

Présidentielle 2022 : le costume vert, l’ultime bouée de sauvetage de Macron

Présidentielle 2022 : le costume vert, l’ultime bouée de sauvetage de Macron

 

 

Alors que le front républicain s’étiole dangereusement, l’écologie est devenue l’ultime cartouche du président sortant pour tenter de projeter la nation dans une nouvelle aventure commune. L’urgence joue pour lui, observe, dans sa chronique, Françoise Fressoz, éditorialiste au « Monde ».

 

Chronique. 

Samedi 16 avril, à Marseille, Emmanuel Macron n’a pas lésiné sur les annonces et effets de manche pour se débarrasser de l’étiquette dans laquelle le premier tour risquait de l’enfermer : devenir le candidat des vieux, le défenseur du système, lui qui s’était promis, en 2017, de conduire une révolution pour rendre l’espoir au pays.

Pour rajeunir, il s’est peint en vert et a fait de la transition écologique sa nouvelle frontière, promettant de transformer la France en une « grande nation écologique », qui serait « la première à sortir du gaz, du pétrole et du charbon ».

Sa promesse d’aller « deux fois plus vite » dans la réduction des gaz à effet de serre, lui qui, aux yeux des écologistes, a dangereusement lambiné, est directement liée au résultat du premier tour de la présidentielle marqué par le sérieux coup de semonce que lui a adressé la jeunesse : dimanche 10 avril, les 18-24 ans et les 25-34 ans se sont massivement abstenus. Ils l’ont fait à hauteur de 42 % et de 46 %, selon l’enquête Ipsos-Sopra Steria, contre respectivement 29 % et 28 % cinq ans plus tôt. Et ceux qui se sont rendus dans leur bureau de vote ont privilégié le bulletin Mélenchon devenu, au terme de sa troisième campagne présidentielle, le héraut incontesté de la planification écologique.

Le camouflet a été sévère pour Emmnanuel Macron, qui était, en 2017, le candidat préféré des 25-34 ans et qui s’est retrouvé cette fois relégué en troisième position, distancé de plus de 10 points par l’« insoumis ».

L’autre alerte est venue de l’étiolement de plus en plus manifeste du front républicain face à l’extrême droite. Le 1er mai 2002, près de 1,5 million de personnes, stupéfaites de ce qui venait de se produire en France et farouchement déterminées à défendre les valeurs républicaines, avaient défilé à Paris et en province pour dire non à Jean-Marie Le Pen.

Vingt ans plus tard, samedi 16 avril, ils étaient à peine plus de 20 000 manifestants, selon la police, à clamer leur refus de Marine Le Pen. Beaucoup d’entre eux révélaient simultanément leur difficulté, pour ne pas dire leur incapacité, à glisser un bulletin Macron dans l’urne le 24 avril, désabusés, voire furieux, de se sentir piégés par le résultat d’une élection dans laquelle ils ne trouvent pas leur compte.

Cette difficulté à trancher entre deux rejets est un vrai signal d’alarme quant à l’état de la démocratie française. C’est comme si le projet de Marine Le Pen, qui veut s’affranchir des règles constitutionnelles, des normes et des valeurs européennes pour introduire, par référendum, une discrimination légale entre nationaux et étrangers, était jugé guère plus menaçant pour la République que l’exercice du pouvoir par Emmanuel Macron.

Intelligence artificielle : enjeux et perspectives (Charles-Édouard Bouée)

 

Charles-Édouard Bouée, le président du cabinet de conseil Roland Berger, explique les défis qui nous attendent avec l’arrivée de l’intelligence artificielle dans une interview à la Tribune

 

Sommes-nous en train de vivre un tournant avec l’arrivée de l’intelligence artificielle dans nos vies ?

 

CHARLES-ÉDOUARD BOUÉE - À l’évidence, oui ! Tous les indices que nous observons depuis deux ans le montrent. Nous entrons dans l’âge des machines intelligentes. En 2016, il y a eu des prises de position très claires de personnages emblématiques des nouvelles technologies – Elon Musk, Bill Gates, etc. – et des victoires hautement symboliques de l’IA contre les champions du monde du jeu de go, de poker ou du jeu Civilisation, qui est un jeu de stratégie encore plus complexe. On a aussi vu émerger de nouveaux acteurs de l’IA, comme Nvidia qui a doublé de valeur boursière en un an. Le vrai point d’inflexion a eu lieu il y a dix ans, en 2005-2006. C’est là que les premières puces Nvidia et les premières applications de machine learning sont apparues. Mais le mot intelligence artificielle n’est entré dans le vocabulaire des entreprises que depuis 2016. La France s’en est rendu compte avec retard mais a lancé en janvier dernier France IA, une initiative intéressante dotée d’une enveloppe de 1,5 milliard d’euros sur dix ans, et qu’il faut désormais développer. Tous les grands pays en ont fait une priorité : dès 2016 aux États-Unis, un rapport très complet sur les enjeux de l’IA a été remis à Barack Obama. Les Chinois aussi en ont fait leur nouvel objectif national prioritaire. Les entreprises en parlent, les États s’en préoccupent et le sujet commence aussi à intéresser le grand public, à voir les nombreuses unes de la presse qui y sont consacrées.

Il y a donc une accélération ces deux dernières années…

L’intelligence artificielle coïncide avec la prise de conscience de l’impact des technologies nouvelles sur le travail, et sans être au coeur des enjeux des élections dans les différents pays, elle percute le débat politique parce qu’elle aura des conséquences pour l’économie et l’emploi. En mai 2014, Roland Berger avait fait une étude remarquée selon laquelle la robotisation pourrait menacer 42 % des emplois. C’était très prospectif. Les débats restaient très académiques. C’est aujourd’hui devenu un sujet de l’actualité. Tout le monde en parle. Il y a une accélération du temps. Pas seulement celui des technologies mais de tout. Hartmut Rosa, le philosophe allemand, a raison : le temps s’accélère.

Quels scénarios envisager pour l’arrivée de l’IA dans nos vies ?

Elle est déjà présente mais cela reste peu visible. Dans mon livre, j’essaie de décrire ce qui va se passer à un double horizon de dix ans et de vingt ans. 2026-2036, c’est à la fois loin et très proche. Cela va être selon moi un tsunami, en deux vagues. La première, sur la période 2016-2026, va être marquée par le basculement dans l’intelligence artificielle portative, intégrée dans les téléphones mobiles et également dans tous les autres équipements que nous utilisons. L’intelligence artificielle portative pour tous, cela veut dire que notre vie va changer encore davantage dans les dix prochaines années que dans les dix précédentes. L’IA portative va nous faire gagner du temps, en réalisant à notre place tout une série de tâches simultanément et rapidement. L’homme augmenté avec son smartphone intelligent sera capable de gérer plusieurs dimensions en parallèle : notre intelligence artificielle portative pourra en même temps faire nos courses sur plusieurs sites Internet et nous faire livrer à domicile au meilleur prix les meilleurs produits, réserver nos vacances, comparer les prix des abonnements de téléphone tout en vérifiant que nos données personnelles ne sont pas utilisées par des tiers sans notre accord – car notre IA portative effectuera elle-même les recherches et les achats, disruptant ainsi des secteurs entiers comme la grande distribution ou la publicité. Elle se connectera aussi avec l’IA portative de nos voisins, par exemple pour acheter de l’électricité au distributeur local. Notre vie quotidienne et toutes les industries vont être radicalement transformées.

Il y a un gros débat sur la productivité à l’heure du numérique, car on ne la voit pas dans les statistiques. Cette IA portative va tout changer ?

Oui, et elle va faire disparaître la fracture numérique, le fameux digital divide, à part pour ceux qui ne sauront pas se servir d’un smartphone… C’est comme l’énergie. On est tous égaux devant l’électricité. L’IA portative entraînera aussi un rééquilibrage du rapport de force entre les entreprises et les particuliers. Aujourd’hui, l’entreprise, même traditionnelle, a le pouvoir sur nos données et sur la technologie. Demain, avec l’IA portative, l’écart va se combler car tout le monde aura accès à cette puissance informatique. Avec la montée des cadres nomades et des freelancers, les rapports de force sociaux et le monde du travail pourraient évoluer sensiblement : nous tous, salariés comme consommateurs, serons « augmentés » et pourrons postuler aux nouveaux emplois, nous procurer les nouveaux produits et services avec l’appui de notre IA personnelle.

Qui seront les acteurs de cette intelligence artificielle portative ?

Selon moi, les leaders de cette nouvelle révolution ne seront pas les Gafa. Ni Google ni Apple ni Facebook ni Amazon, ni même les Chinois des Bat (Baidu, Alibaba et Tencent). Il y aura un rééquilibrage entre les grands acteurs de l’Internet, les entreprises et les individus. La question de la sécurité des données, des data, sera cruciale. On crée tous les deux ans autant de données que celles qui ont été produites avant par l’humanité. C’est vertigineux. Celui qui pourra avoir accès à des données « fraîches » sera très rapidement au même niveau que celui qui l’a précédé. Avec une IA portative, personne ne voudra avoir affaire à un commerçant qui dispose de son historique de données. Tout nouvel acteur capable de garantir cette protection des données aura donc une prime sur les autres. Ce pourra être un spin off des Gafa, ou bien un nouvel acteur encore inconnu. Les données n’auront plus la même valeur économique. Les futurs nouveaux algorithmes seront probablement moins consommateurs de données car l’IA sera de plus en plus élaborée. Aujourd’hui le machine learning [apprentissage automatique ou apprentissage statistique, Ndlr] a besoin d’une masse considérable de data et de capacité de calcul. Demain, nous passerons au machine reasoning avec une IA interprétative ayant une plus forte capacité de raisonnement. La dernière preuve empirique que les Gafa ne seront pas forcément les gagnants de la bataille de l’IA, c’est l’observation du passé. Il y a eu trois vagues technologiques depuis les années 1990 : la vague de l’ordinateur portable avec Microsoft et IBM ; la vague d’Internet avec les grands opérateurs fournisseurs d’accès à Internet, comme AOL (America Online). Et enfin, on a eu la vague des Gafa avec Apple, Google, Facebook et Amazon.

En dix ans, les Gafa ont atteint en Bourse l’équivalent du PIB de la France… Comment imaginer leur disparition ?

Ces entreprises ne vont pas disparaître mais elles peuvent connaître le même sort que celui des opérateurs télécoms. Dans dix ans, il y aura des sociétés qui auront une capitalisation boursière de plus de 1 000 milliards de dollars mais selon moi, ce ne seront pas les Gafa. Les nouveaux acteurs dominants seront ceux qui fourniront l’IA portative en protégeant les données personnelles. L’histoire a montré qu’à chaque transition, les consommateurs ont cherché un nouveau produit et une nouvelle marque. Google au début était un service neutre qui n’essayait pas de nous vendre quelque chose. Le moteur de recherche s’est imposé et est ensuite devenu un service marchand. Il y a donc beaucoup de présomptions que les dernières années ne sont pas une garantie pour le futur. On peut imaginer que la prochaine disruption technologique, qui est la plus grosse, se fera avec de nouveaux acteurs.

Cela veut dire que tout le monde repart du même point. Mais les Gafa sont tellement riches qu’ils pourraient aspirer tous les cerveaux. N’a-t-on pas atteint un point de non-retour ?

Ce n’est pas qu’une question de puissance et d’argent mais d’algorithmes et de créativité pour engendrer de nouveaux business. Ceux qui ont fait fortune, ce ne sont pas les créateurs d’Internet, mais ceux qui ont suivi, qui ont su créer les services, fait un comparateur, un site de vente en ligne ou de voyage ou de rencontres… Au début des années 1990, les étudiants d’Harvard allaient chez Microsoft qui attirait tous les talents et pourtant ce sont d’autres qui ont gagné la bataille de l’Internet. Donc rien ne garantit que les Gafa seront les gagnants pour l’éternité. En dix ans, un nouvel entrant avec peu de capitaux mais les bons cerveaux peut prendre leur place.

Donc, c’est la révolution des cerveaux… humains ?

Oui, heureusement… mais cela sera différent dans les dix années qui suivent. Dans la séquence 2026-2036, les progrès de l’IA seront encore plus spectaculaires : machine learning, machine reasoning, la machine qui apprend, celle qui raisonne ; puis viendront les algorithmes génétiques qui se corrigent et se transforment, c’est-à-dire une machine capable d’évoluer génétiquement, comme un cerveau humain.

On va donc vers l’IA forte ?

Progressivement, de plus en plus d’applications utiliseront l’IA portative. Ma thèse est qu’à un moment donné, de manière aléatoire, une machine va s’éveiller. Dans le livre, je date cet événement, qui correspond au fameux point de singularité, au 15 août 2038. Cela peut arriver n’importe où, n’importe quand. Ce sera un « accident ». Ce n’est pas nécessairement celui qui cherche qui trouvera. Dans la thèse du livre, c’est une mise à jour de routine de l’IA qui déclenche son éveil.

Oui, et cela pose dès lors toute une série de questions philosophiques. Comment se comporte l’IA devenue consciente ?

Il y a deux écoles. Ceux qui pensent que la machine aura tous les caractéristiques humaines. Les bonnes et les mauvaises… Elle sera cupide, voudra du pouvoir et asservir les autres. Et il y a ceux, les plus nombreux, qui pensent que la machine raisonnera par rapport à son propre empire. Elle voudra sécuriser son accès à l’énergie, la stocker et survivre. Elle va donc s’assurer que l’environnement climatique et énergétique est sécurisé. C’est tout ce dont elle a besoin. Elle cherchera à éviter les guerres et tout ce qui pourrait perturber ses infrastructures.

Elle va gouverner la planète Terre… Ce sera « la chute de l’empire humain » ?

Elle va s’assurer de sa survie sur Terre. La machine ne raisonnera pas selon les critères humains, mais en fonction de ses besoins propres. La chute de l’empire humain à l’ère de l’intelligence artificielle forte, ce sera du Gengis Khan ludique et indolore. Comme le décrit Elon Musk, l’homme vivra dans un énorme jeu vidéo, une sorte de Matrix – car pour la machine ce sera le meilleur endroit où mettre les humains.

Les gens en auront-ils conscience ?

Non. Pour l’instant les gens sont sur la plage : ils contemplent les vaguelettes et ne voient pas l’énorme tsunami qui arrive.

Pourtant on voit poindre un début de révolte contre les technologies…

Empiriquement, on sait qu’on ne peut pas arrêter les technologies. Même le nucléaire ne l’a pas été. La question est de savoir dans quel monde nous voulons vivre et comment nous souhaitons contrôler la technologie, ou pas. Mais le vrai problème est que nous n’avons pas conscience de la situation. Si l’être humain savait avec certitude qu’une machine prend le contrôle, alors il se battrait pour sa souveraineté. Mais la probabilité que nous ne soyons pas dans une immense simulation est d’une sur un milliard, a dit Elon Musk. Sa thèse est que la chute de l’empire humain, nous ne la verrons pas. Il se pourrait que nous y soyons déjà.

Sans aller aussi loin dans la prospective, l’intelligence artificielle est aussi une énorme opportunité de business ?

Je ne suis pas d’accord avec ceux qui pensent qu’on est coincé dans un monde de raréfaction du travail et où le revenu universel va s’imposer. Il nous reste dix ans devant nous pendant lesquels nous pouvons encore gagner la bataille. On est à l’aube d’un âge d’or si on sait s’adapter.

Pourtant le patron de Microsoft dit, comme certains hommes et femmes politiques, qu’il faudra taxer les robots pour financer un revenu universel…

Nous avons encore dix ans devant nous pendant lesquels nous pouvons gagner. Le revenu universel, c’est beaucoup trop tôt pour l’envisager. C’est reconnaître qu’on va perdre la bataille de l’IA. C’est exactement l’inverse de ce qu’il faut faire. Nos hommes et femmes politiques sont loin d’être les seuls à tenir ce discours, il y a aussi des représentants de la Silicon Valley qui en parlent. Mais la différence est que ceux-ci sont persuadés qu’ils vont gagner la bataille de l’IA. Le revenu universel, c’est pour expliquer aux gens qu’il faut qu’ils se préparent à être d’éternels perdants, qu’ils ne pourront qu’être pauvres, et subventionnés pour ne pas travailler. Au contraire, les syndicalistes devraient s’emparer de l’IA pour réclamer un effort massif d’éducation et de formation, et permettre aux étudiants et aux travailleurs français d’être les meilleurs. Aujourd’hui, il faut regrouper nos forces : travailler avec les Allemands ainsi qu’avec les autres pays européens, et faire effet de levier face aux Américains qui sont actuellement un peu affaiblis en raison de leurs clivages internes.

Et les entreprises, que font-elles pour se préparer ?

La prise de conscience a commencé. Depuis deux ans, les entreprises se sont lancées à marche forcée dans la transformation digitale. Elles sont en train de comprendre que ce n’est qu’une promenade de santé au regard de la montagne à gravir. Mais je leur dis que c’est une opportunité incroyable pour une entreprise de la vieille économie, car cela rebat toutes les cartes. En ayant une stratégie IA, elles peuvent rattraper leur retard. Aujourd’hui, tous nos clients se sentent menacés par les Gafa. Leur dire que même les Gafa peuvent disparaître avec l’arrivée en dix ans de nouveaux acteurs, c’est de nature à leur redonner l’espoir.

L’Europe a sa chance dans cette nouvelle bataille ?

Oui, parce qu’on a les mathématiciens, les ingénieurs, les cerveaux. Et on n’a pas les Gafa. Pourquoi les Gafa ont-ils gagné contre les opérateurs télécoms ? Parce que les opérateurs étaient persuadés qu’ils avaient la maîtrise du débit et du client. Les fournisseurs d’accès Internet ont cru qu’ils allaient gagner parce qu’ils avaient les abonnés. Mais lorsque les Gafa ont débarqué avec des applications qui ont été d’emblée adoptées par les clients, c’était fini pour eux. Ils sont passés de très riches à très pauvres. C’est une des raisons pour lesquelles l’Europe a raté le virage. Les opérateurs télécoms européens étaient les maîtres du monde et ils ont été vaincus : Vodafone, Deutsche Telekom, France Telecom avaient une stratégie d’expansion mondiale. C’étaient des cash machines qui émettaient de la monnaie papier car ils contrôlaient les consommateurs en les équipant de portables. Et les Gafa les ont remplacés en dix ans. C’est la preuve empirique que tout reste possible. On n’est pas assez stratèges en Europe. Les Chinois ont gagné la bataille suivante parce qu’ils sont partis de zéro. Il faut sortir de notre complexe d’infériorité vis-à-vis de la Silicon Valley. La bonne nouvelle, c’est que les grands groupes européens, dans l’automobile, l’industrie, les cosmétiques, n’ont pas peur des Gafa. L’IA est une opportunité pour eux. Ensuite, c’est aux gouvernements nationaux et à l’Europe de fournir les moyens de cette transformation. L’Europe doit lancer une plateforme IA en open source. Si l’Europe, qui a créé le GSM, sait définir les normes de l’intelligence artificielle portative, elle deviendra la référence, au moins pour l’Europe continentale.

Ceux qui auront donné le tempo sur les normes auront un avantage compétitif fort.

Aujourd’hui le problème de l’IA, c’est qu’elle n’est pas portable. C’est la forêt, ça foisonne, on est avant que Microsoft n’impose son système d’exploitation pour tous les ordinateurs. Celui qui saura développer l’OS de l’IA va emporter la mise.

Une stratégie IA pour une entreprise, c’est quoi ?

C’est très différent d’une stratégie classique où l’on regarde la concurrence, le marché, les produits, les clients, etc. La première étape est de visualiser le futur, un futur assez lointain, au moins 2030. Dans ce futur, il faut analyser tout ce qui dans son activité peut être impacté par l’IA. Ensuite, il faut développer une stratégie de conquête. Il faut apprendre à se projeter dans le futur : qu’est que ce qu’on va fournir au consommateur de 2036, qui aura accès à l’IA comme celui de 2017 a accès à l’Internet haut débit ? La seconde étape est d’analyser ses actifs, et déterminer ceux qui sont utiles et ceux qui ne le sont pas.

C’est simple à dire, pas à réaliser…

C’est beaucoup plus simple quand on a pris conscience des conséquences de l’arrivée de l’IA. C’est écrire avec le comex les futurs possibles et voir comment on peut les préempter et prendre de l’avance. C’est pour cela que les groupes traditionnels ont encore leur chance. Ils ont un avantage beaucoup plus grand qu’ils ne le pensent…

 

Intelligence artificielle : avancées, limites et gadgets (Charles Edouard Bouée)

Intelligence artificielle : avancées, limites et gadgets (Charles Edouard Bouée)

 

Dans une tribune des Échos, Charles Edouard Bouée,  président de Roland Berger, fait la part de ce qui relève réellement des avancés en matière d’intelligence artificielle et ce qui relève des gadgets car surtout destinés à valoriser artificiellement un produits et/ou  à attirer des capitaux.

 

«  La septicémie, qui représente une des premières causes de mortalité en milieu hospitalier, pourrait bientôt appartenir au passé. Comment ? Grâce à un algorithme d’intelligence artificielle capable de détecter, une demi-heure avant qu’elle ne survienne, une chute brutale de la pression artérielle très souvent indicatrice d’une infection du sang. Trente minutes suffisent à l’équipe soignante pour intervenir, sauver ainsi des milliers de vies et économiser des milliards de dollars. Une telle avancée est le fruit de la collaboration entre l’expert en intelligence artificielle Antoine Blondeau, fondateur de  Sentient Technologies, et les chercheurs du MIT . On est bien loin du buzz que des entreprises peu scrupuleuses font parfois, en estampillant « IA » des solutions technologiques qui pour certaines n’ont rien à voir avec l’intelligence artificielle, pour attirer les investisseurs et les clients. Après le « green washing », consistant à donner un vernis durable à des produits et des services qui ne le sont pas, l’« AI washing » nous promet monts et merveilles avec des solutions qui ne sont que des gadgets. C’est que derrière le succès actuel du terme « intelligence artificielle » – d’ailleurs choisi un peu par hasard en 1956 par John McCarthy, se cachent des technologies complexes : le « deep learning », qui permet la reconnaissance des objets et des mots, associé au « machine reasoning », qui permet d’élaborer des modèles prédictifs, les deux étant complétés par des algorithmes génétiques et des codes écrits par la machine elle-même. Si bien que le grand public a parfois du mal à comprendre les tenants et les aboutissants. D’où la difficulté à savoir ce qui relève vraiment de l’IA : de nombreux produits ou services qui disent reposer sur de l’intelligence artificielle, ne mobilisent en réalité que des logiciels d’automatisation basiques. Un autre mirage consiste à faire croire, en particulier aux chefs d’entreprises, que l’intelligence artificielle est toujours la réponse la plus adaptée pour accroître l’efficacité d’un processus. C’est loin d’être systématiquement le cas. Ainsi, lorsqu’on cherche une réponse à une question précise, les outils analytiques de Business Intelligence sont souvent plus pertinents. Mais label « IA » attire le chaland… et certains en abusent. Si, comme tous les eldorados, l’intelligence artificielle a ses charlatans, elle a aussi ses magiciens. Antoine Blondeau, Chris Boos, fondateur de la société Arago , Tomaso Poggio du MIT , Yann Le Cun de Facebook AI Research, Sean Tang, fondateur de SenseTime , Jürgen Schmidhuber du laboratoire suisse Idsia, Demis Hassabis de Deepmind … venus de tous les continents, ils travaillent ensemble autant dans les laboratoires, les universités que les entreprises. Ils forment une communauté d’experts capables de faire émerger un nouveau monde, sans bruit, loin des médias. On sait que l’intelligence artificielle sera la rupture technologique, sociale et économique des décennies à venir. Et il est certain que les prochaines licornes seront des entreprises d’intelligence artificielle. Mais la bataille ne se joue pas toujours où on le croit. Ni chez ceux qui en parlent beaucoup, ni forcément chez les GAFA ou leurs cousins chinois, les BAT. Les innovations véritables sont le fait de scientifiques et de techniciens qui n’aiment pas la lumière. Quant à ceux qui bluffent, en prétendant développer des solutions d’IA quand ce n’est pas le cas, ils pourraient bien être pris à leur propre piège. Car après DeepBlue aux échecs et Alphago au jeu de Go, le programme Libratus a envoyé au tapis, en janvier 2017, quatre joueurs de poker professionnels . En nous laissant face à ce constat vertigineux : l’intelligence artificielle sait donc bluffer, et intégrer le bluff des autres à sa propre stratégie ! Il ne lui reste plus qu’à apprendre à démasquer les bluffeurs. ».

 

Intelligence artificielle : gadgets ou progrès (Charles Edouard Bouée)

Intelligence artificielle : gadgets ou progrès (Charles Edouard Bouée) 

Dans uen tribune des Échos, Charles Edouard Bouée,  président de Roland Berger, fait la part de ce qui relève réellement des avancés en matière d’intelligence artificielle et ce qui relève des gadgets.

«  La septicémie, qui représente une des premières causes de mortalité en milieu hospitalier, pourrait bientôt appartenir au passé. Comment ? Grâce à un algorithme d’intelligence artificielle capable de détecter, une demi-heure avant qu’elle ne survienne, une chute brutale de la pression artérielle très souvent indicatrice d’une infection du sang. Trente minutes suffisent à l’équipe soignante pour intervenir, sauver ainsi des milliers de vies et économiser des milliards de dollars. Une telle avancée est le fruit de la collaboration entre l’expert en intelligence artificielle Antoine Blondeau, fondateur de  Sentient Technologies, et les chercheurs du MIT .  On est bien loin du buzz que des entreprises peu scrupuleuses font parfois, en estampillant « IA » des solutions technologiques qui pour certaines n’ont rien à voir avec l’intelligence artificielle, pour attirer les investisseurs et les clients. Après le « green washing », consistant à donner un vernis durable à des produits et des services qui ne le sont pas, l’« AI washing » nous promet monts et merveilles avec des solutions qui ne sont que des gadgets. C’est que derrière le succès actuel du terme « intelligence artificielle » – d’ailleurs choisi un peu par hasard en 1956 par John McCarthy, se cachent des technologies complexes : le « deep learning », qui permet la reconnaissance des objets et des mots, associé au « machine reasoning », qui permet d’élaborer des modèles prédictifs, les deux étant complétés par des algorithmes génétiques et des codes écrits par la machine elle-même. Si bien que le grand public a parfois du mal à comprendre les tenants et les aboutissants. D’où la difficulté à savoir ce qui relève vraiment de l’IA : de nombreux produits ou services qui disent reposer sur de l’intelligence artificielle, ne mobilisent en réalité que des logiciels d’automatisation basiques. Un autre mirage consiste à faire croire, en particulier aux chefs d’entreprises, que l’intelligence artificielle est toujours la réponse la plus adaptée pour accroître l’efficacité d’un processus. C’est loin d’être systématiquement le cas. Ainsi, lorsqu’on cherche une réponse à une question précise, les outils analytiques de Business Intelligence sont souvent plus pertinents. Mais label « IA » attire le chaland… et certains en abusent. Si, comme tous les eldorados, l’intelligence artificielle a ses charlatans, elle a aussi ses magiciens. Antoine Blondeau, Chris Boos, fondateur de la société Arago , Tomaso Poggio du MIT , Yann Le Cun de Facebook AI Research, Sean Tang, fondateur de SenseTime , Jürgen Schmidhuber du laboratoire suisse Idsia, Demis Hassabis de Deepmind … venus de tous les continents, ils travaillent ensemble autant dans les laboratoires, les universités que les entreprises. Ils forment une communauté d’experts capables de faire émerger un nouveau monde, sans bruit, loin des médias. On sait que l’intelligence artificielle sera la rupture technologique, sociale et économique des décennies à venir. Et il est certain que les prochaines licornes seront des entreprises d’intelligence artificielle. Mais la bataille ne se joue pas toujours où on le croit. Ni chez ceux qui en parlent beaucoup, ni forcément chez les GAFA ou leurs cousins chinois, les BAT. Les innovations véritables sont le fait de scientifiques et de techniciens qui n’aiment pas la lumière. Quant à ceux qui bluffent, en prétendant développer des solutions d’IA quand ce n’est pas le cas, ils pourraient bien être pris à leur propre piège. Car après DeepBlue aux échecs et Alphago au jeu de Go, le programme Libratus a envoyé au tapis, en janvier 2017, quatre joueurs de poker professionnels . En nous laissant face à ce constat vertigineux : l’intelligence artificielle sait donc bluffer, et intégrer le bluff des autres à sa propre stratégie ! Il ne lui reste plus qu’à apprendre à démasquer les bluffeurs. ».

Les gadgets de l’ intelligence artificielle (Charles Edouard Bouée)

Les gadgets de l’ intelligence artificielle (Charles Edouard Bouée)  

Dans un tribune des Échos, Charles Edouard Bouée,  président de Roland Berger, fait la part de ce qui relève réellement des avancés en matière d’intelligence artificielle et ce qui relève des gadgets.

«  La septicémie, qui représente une des premières causes de mortalité en milieu hospitalier, pourrait bientôt appartenir au passé. Comment ? Grâce à un algorithme d’intelligence artificielle capable de détecter, une demi-heure avant qu’elle ne survienne, une chute brutale de la pression artérielle très souvent indicatrice d’une infection du sang. Trente minutes suffisent à l’équipe soignante pour intervenir, sauver ainsi des milliers de vies et économiser des milliards de dollars. Une telle avancée est le fruit de la collaboration entre l’expert en intelligence artificielle Antoine Blondeau, fondateur de  Sentient Technologies, et les chercheurs du MIT .  On est bien loin du buzz que des entreprises peu scrupuleuses font parfois, en estampillant « IA » des solutions technologiques qui pour certaines n’ont rien à voir avec l’intelligence artificielle, pour attirer les investisseurs et les clients. Après le « green washing », consistant à donner un vernis durable à des produits et des services qui ne le sont pas, l’« AI washing » nous promet monts et merveilles avec des solutions qui ne sont que des gadgets. C’est que derrière le succès actuel du terme « intelligence artificielle » – d’ailleurs choisi un peu par hasard en 1956 par John McCarthy, se cachent des technologies complexes : le « deep learning », qui permet la reconnaissance des objets et des mots, associé au « machine reasoning », qui permet d’élaborer des modèles prédictifs, les deux étant complétés par des algorithmes génétiques et des codes écrits par la machine elle-même. Si bien que le grand public a parfois du mal à comprendre les tenants et les aboutissants. D’où la difficulté à savoir ce qui relève vraiment de l’IA : de nombreux produits ou services qui disent reposer sur de l’intelligence artificielle, ne mobilisent en réalité que des logiciels d’automatisation basiques. Un autre mirage consiste à faire croire, en particulier aux chefs d’entreprises, que l’intelligence artificielle est toujours la réponse la plus adaptée pour accroître l’efficacité d’un processus. C’est loin d’être systématiquement le cas. Ainsi, lorsqu’on cherche une réponse à une question précise, les outils analytiques de Business Intelligence sont souvent plus pertinents. Mais label « IA » attire le chaland… et certains en abusent. Si, comme tous les eldorados, l’intelligence artificielle a ses charlatans, elle a aussi ses magiciens. Antoine Blondeau, Chris Boos, fondateur de la société Arago , Tomaso Poggio du MIT , Yann Le Cun de Facebook AI Research, Sean Tang, fondateur de SenseTime , Jürgen Schmidhuber du laboratoire suisse Idsia, Demis Hassabis de Deepmind … venus de tous les continents, ils travaillent ensemble autant dans les laboratoires, les universités que les entreprises. Ils forment une communauté d’experts capables de faire émerger un nouveau monde, sans bruit, loin des médias. On sait que l’intelligence artificielle sera la rupture technologique, sociale et économique des décennies à venir. Et il est certain que les prochaines licornes seront des entreprises d’intelligence artificielle. Mais la bataille ne se joue pas toujours où on le croit. Ni chez ceux qui en parlent beaucoup, ni forcément chez les GAFA ou leurs cousins chinois, les BAT. Les innovations véritables sont le fait de scientifiques et de techniciens qui n’aiment pas la lumière. Quant à ceux qui bluffent, en prétendant développer des solutions d’IA quand ce n’est pas le cas, ils pourraient bien être pris à leur propre piège. Car après DeepBlue aux échecs et Alphago au jeu de Go, le programme Libratus a envoyé au tapis, en janvier 2017, quatre joueurs de poker professionnels . En nous laissant face à ce constat vertigineux : l’intelligence artificielle sait donc bluffer, et intégrer le bluff des autres à sa propre stratégie ! Il ne lui reste plus qu’à apprendre à démasquer les bluffeurs. ».

 

« Le tsunami de l’intelligence artificielle (Charles-Édouard Bouée)

« Le tsunami de  l’intelligence artificielle (Charles-Édouard Bouée)

Charles-Édouard Bouée, le président du cabinet de conseil Roland Berger, explique les défis qui nous attendent avec l’arrivée de l’intelligence artificielle dans une interview à la Tribune

 

Sommes-nous en train de vivre un tournant avec l’arrivée de l’intelligence artificielle dans nos vies ?

CHARLES-ÉDOUARD BOUÉE - À l’évidence, oui ! Tous les indices que nous observons depuis deux ans le montrent. Nous entrons dans l’âge des machines intelligentes. En 2016, il y a eu des prises de position très claires de personnages emblématiques des nouvelles technologies – Elon Musk, Bill Gates, etc. – et des victoires hautement symboliques de l’IA contre les champions du monde du jeu de go, de poker ou du jeu Civilisation, qui est un jeu de stratégie encore plus complexe. On a aussi vu émerger de nouveaux acteurs de l’IA, comme Nvidia qui a doublé de valeur boursière en un an. Le vrai point d’inflexion a eu lieu il y a dix ans, en 2005-2006. C’est là que les premières puces Nvidia et les premières applications de machine learning sont apparues. Mais le mot intelligence artificielle n’est entré dans le vocabulaire des entreprises que depuis 2016. La France s’en est rendu compte avec retard mais a lancé en janvier dernier France IA, une initiative intéressante dotée d’une enveloppe de 1,5 milliard d’euros sur dix ans, et qu’il faut désormais développer. Tous les grands pays en ont fait une priorité : dès 2016 aux États-Unis, un rapport très complet sur les enjeux de l’IA a été remis à Barack Obama. Les Chinois aussi en ont fait leur nouvel objectif national prioritaire. Les entreprises en parlent, les États s’en préoccupent et le sujet commence aussi à intéresser le grand public, à voir les nombreuses unes de la presse qui y sont consacrées.

Il y a donc une accélération ces deux dernières années…

L’intelligence artificielle coïncide avec la prise de conscience de l’impact des technologies nouvelles sur le travail, et sans être au coeur des enjeux des élections dans les différents pays, elle percute le débat politique parce qu’elle aura des conséquences pour l’économie et l’emploi. En mai 2014, Roland Berger avait fait une étude remarquée selon laquelle la robotisation pourrait menacer 42 % des emplois. C’était très prospectif. Les débats restaient très académiques. C’est aujourd’hui devenu un sujet de l’actualité. Tout le monde en parle. Il y a une accélération du temps. Pas seulement celui des technologies mais de tout. Hartmut Rosa, le philosophe allemand, a raison : le temps s’accélère.

Quels scénarios envisager pour l’arrivée de l’IA dans nos vies ?

Elle est déjà présente mais cela reste peu visible. Dans mon livre, j’essaie de décrire ce qui va se passer à un double horizon de dix ans et de vingt ans. 2026-2036, c’est à la fois loin et très proche. Cela va être selon moi un tsunami, en deux vagues. La première, sur la période 2016-2026, va être marquée par le basculement dans l’intelligence artificielle portative, intégrée dans les téléphones mobiles et également dans tous les autres équipements que nous utilisons. L’intelligence artificielle portative pour tous, cela veut dire que notre vie va changer encore davantage dans les dix prochaines années que dans les dix précédentes. L’IA portative va nous faire gagner du temps, en réalisant à notre place tout une série de tâches simultanément et rapidement. L’homme augmenté avec son smartphone intelligent sera capable de gérer plusieurs dimensions en parallèle : notre intelligence artificielle portative pourra en même temps faire nos courses sur plusieurs sites Internet et nous faire livrer à domicile au meilleur prix les meilleurs produits, réserver nos vacances, comparer les prix des abonnements de téléphone tout en vérifiant que nos données personnelles ne sont pas utilisées par des tiers sans notre accord – car notre IA portative effectuera elle-même les recherches et les achats, disruptant ainsi des secteurs entiers comme la grande distribution ou la publicité. Elle se connectera aussi avec l’IA portative de nos voisins, par exemple pour acheter de l’électricité au distributeur local. Notre vie quotidienne et toutes les industries vont être radicalement transformées.

Il y a un gros débat sur la productivité à l’heure du numérique, car on ne la voit pas dans les statistiques. Cette IA portative va tout changer ?

Oui, et elle va faire disparaître la fracture numérique, le fameux digital divide, à part pour ceux qui ne sauront pas se servir d’un smartphone… C’est comme l’énergie. On est tous égaux devant l’électricité. L’IA portative entraînera aussi un rééquilibrage du rapport de force entre les entreprises et les particuliers. Aujourd’hui, l’entreprise, même traditionnelle, a le pouvoir sur nos données et sur la technologie. Demain, avec l’IA portative, l’écart va se combler car tout le monde aura accès à cette puissance informatique. Avec la montée des cadres nomades et des freelancers, les rapports de force sociaux et le monde du travail pourraient évoluer sensiblement : nous tous, salariés comme consommateurs, serons « augmentés » et pourrons postuler aux nouveaux emplois, nous procurer les nouveaux produits et services avec l’appui de notre IA personnelle.

Qui seront les acteurs de cette intelligence artificielle portative ?

Selon moi, les leaders de cette nouvelle révolution ne seront pas les Gafa. Ni Google ni Apple ni Facebook ni Amazon, ni même les Chinois des Bat (Baidu, Alibaba et Tencent). Il y aura un rééquilibrage entre les grands acteurs de l’Internet, les entreprises et les individus. La question de la sécurité des données, des data, sera cruciale. On crée tous les deux ans autant de données que celles qui ont été produites avant par l’humanité. C’est vertigineux. Celui qui pourra avoir accès à des données « fraîches » sera très rapidement au même niveau que celui qui l’a précédé. Avec une IA portative, personne ne voudra avoir affaire à un commerçant qui dispose de son historique de données. Tout nouvel acteur capable de garantir cette protection des données aura donc une prime sur les autres. Ce pourra être un spin off des Gafa, ou bien un nouvel acteur encore inconnu. Les données n’auront plus la même valeur économique. Les futurs nouveaux algorithmes seront probablement moins consommateurs de données car l’IA sera de plus en plus élaborée. Aujourd’hui le machine learning [apprentissage automatique ou apprentissage statistique, Ndlr] a besoin d’une masse considérable de data et de capacité de calcul. Demain, nous passerons au machine reasoning avec une IA interprétative ayant une plus forte capacité de raisonnement. La dernière preuve empirique que les Gafa ne seront pas forcément les gagnants de la bataille de l’IA, c’est l’observation du passé. Il y a eu trois vagues technologiques depuis les années 1990 : la vague de l’ordinateur portable avec Microsoft et IBM ; la vague d’Internet avec les grands opérateurs fournisseurs d’accès à Internet, comme AOL (America Online). Et enfin, on a eu la vague des Gafa avec Apple, Google, Facebook et Amazon.

En dix ans, les Gafa ont atteint en Bourse l’équivalent du PIB de la France… Comment imaginer leur disparition ?

Ces entreprises ne vont pas disparaître mais elles peuvent connaître le même sort que celui des opérateurs télécoms. Dans dix ans, il y aura des sociétés qui auront une capitalisation boursière de plus de 1 000 milliards de dollars mais selon moi, ce ne seront pas les Gafa. Les nouveaux acteurs dominants seront ceux qui fourniront l’IA portative en protégeant les données personnelles. L’histoire a montré qu’à chaque transition, les consommateurs ont cherché un nouveau produit et une nouvelle marque. Google au début était un service neutre qui n’essayait pas de nous vendre quelque chose. Le moteur de recherche s’est imposé et est ensuite devenu un service marchand. Il y a donc beaucoup de présomptions que les dernières années ne sont pas une garantie pour le futur. On peut imaginer que la prochaine disruption technologique, qui est la plus grosse, se fera avec de nouveaux acteurs.

Cela veut dire que tout le monde repart du même point. Mais les Gafa sont tellement riches qu’ils pourraient aspirer tous les cerveaux. N’a-t-on pas atteint un point de non-retour ?

Ce n’est pas qu’une question de puissance et d’argent mais d’algorithmes et de créativité pour engendrer de nouveaux business. Ceux qui ont fait fortune, ce ne sont pas les créateurs d’Internet, mais ceux qui ont suivi, qui ont su créer les services, fait un comparateur, un site de vente en ligne ou de voyage ou de rencontres… Au début des années 1990, les étudiants d’Harvard allaient chez Microsoft qui attirait tous les talents et pourtant ce sont d’autres qui ont gagné la bataille de l’Internet. Donc rien ne garantit que les Gafa seront les gagnants pour l’éternité. En dix ans, un nouvel entrant avec peu de capitaux mais les bons cerveaux peut prendre leur place.

Donc, c’est la révolution des cerveaux… humains ?

Oui, heureusement… mais cela sera différent dans les dix années qui suivent. Dans la séquence 2026-2036, les progrès de l’IA seront encore plus spectaculaires : machine learning, machine reasoning, la machine qui apprend, celle qui raisonne ; puis viendront les algorithmes génétiques qui se corrigent et se transforment, c’est-à-dire une machine capable d’évoluer génétiquement, comme un cerveau humain.

On va donc vers l’IA forte ?

Progressivement, de plus en plus d’applications utiliseront l’IA portative. Ma thèse est qu’à un moment donné, de manière aléatoire, une machine va s’éveiller. Dans le livre, je date cet événement, qui correspond au fameux point de singularité, au 15 août 2038. Cela peut arriver n’importe où, n’importe quand. Ce sera un « accident ». Ce n’est pas nécessairement celui qui cherche qui trouvera. Dans la thèse du livre, c’est une mise à jour de routine de l’IA qui déclenche son éveil.

Oui, et cela pose dès lors toute une série de questions philosophiques. Comment se comporte l’IA devenue consciente ?

Il y a deux écoles. Ceux qui pensent que la machine aura tous les caractéristiques humaines. Les bonnes et les mauvaises… Elle sera cupide, voudra du pouvoir et asservir les autres. Et il y a ceux, les plus nombreux, qui pensent que la machine raisonnera par rapport à son propre empire. Elle voudra sécuriser son accès à l’énergie, la stocker et survivre. Elle va donc s’assurer que l’environnement climatique et énergétique est sécurisé. C’est tout ce dont elle a besoin. Elle cherchera à éviter les guerres et tout ce qui pourrait perturber ses infrastructures.

Elle va gouverner la planète Terre… Ce sera « la chute de l’empire humain » ?

Elle va s’assurer de sa survie sur Terre. La machine ne raisonnera pas selon les critères humains, mais en fonction de ses besoins propres. La chute de l’empire humain à l’ère de l’intelligence artificielle forte, ce sera du Gengis Khan ludique et indolore. Comme le décrit Elon Musk, l’homme vivra dans un énorme jeu vidéo, une sorte de Matrix – car pour la machine ce sera le meilleur endroit où mettre les humains.

Les gens en auront-ils conscience ?

Non. Pour l’instant les gens sont sur la plage : ils contemplent les vaguelettes et ne voient pas l’énorme tsunami qui arrive.

Pourtant on voit poindre un début de révolte contre les technologies…

Empiriquement, on sait qu’on ne peut pas arrêter les technologies. Même le nucléaire ne l’a pas été. La question est de savoir dans quel monde nous voulons vivre et comment nous souhaitons contrôler la technologie, ou pas. Mais le vrai problème est que nous n’avons pas conscience de la situation. Si l’être humain savait avec certitude qu’une machine prend le contrôle, alors il se battrait pour sa souveraineté. Mais la probabilité que nous ne soyons pas dans une immense simulation est d’une sur un milliard, a dit Elon Musk. Sa thèse est que la chute de l’empire humain, nous ne la verrons pas. Il se pourrait que nous y soyons déjà.

Sans aller aussi loin dans la prospective, l’intelligence artificielle est aussi une énorme opportunité de business ?

Je ne suis pas d’accord avec ceux qui pensent qu’on est coincé dans un monde de raréfaction du travail et où le revenu universel va s’imposer. Il nous reste dix ans devant nous pendant lesquels nous pouvons encore gagner la bataille. On est à l’aube d’un âge d’or si on sait s’adapter.

Pourtant le patron de Microsoft dit, comme certains hommes et femmes politiques, qu’il faudra taxer les robots pour financer un revenu universel…

Nous avons encore dix ans devant nous pendant lesquels nous pouvons gagner. Le revenu universel, c’est beaucoup trop tôt pour l’envisager. C’est reconnaître qu’on va perdre la bataille de l’IA. C’est exactement l’inverse de ce qu’il faut faire. Nos hommes et femmes politiques sont loin d’être les seuls à tenir ce discours, il y a aussi des représentants de la Silicon Valley qui en parlent. Mais la différence est que ceux-ci sont persuadés qu’ils vont gagner la bataille de l’IA. Le revenu universel, c’est pour expliquer aux gens qu’il faut qu’ils se préparent à être d’éternels perdants, qu’ils ne pourront qu’être pauvres, et subventionnés pour ne pas travailler. Au contraire, les syndicalistes devraient s’emparer de l’IA pour réclamer un effort massif d’éducation et de formation, et permettre aux étudiants et aux travailleurs français d’être les meilleurs. Aujourd’hui, il faut regrouper nos forces : travailler avec les Allemands ainsi qu’avec les autres pays européens, et faire effet de levier face aux Américains qui sont actuellement un peu affaiblis en raison de leurs clivages internes.

Et les entreprises, que font-elles pour se préparer ?

La prise de conscience a commencé. Depuis deux ans, les entreprises se sont lancées à marche forcée dans la transformation digitale. Elles sont en train de comprendre que ce n’est qu’une promenade de santé au regard de la montagne à gravir. Mais je leur dis que c’est une opportunité incroyable pour une entreprise de la vieille économie, car cela rebat toutes les cartes. En ayant une stratégie IA, elles peuvent rattraper leur retard. Aujourd’hui, tous nos clients se sentent menacés par les Gafa. Leur dire que même les Gafa peuvent disparaître avec l’arrivée en dix ans de nouveaux acteurs, c’est de nature à leur redonner l’espoir.

L’Europe a sa chance dans cette nouvelle bataille ?

Oui, parce qu’on a les mathématiciens, les ingénieurs, les cerveaux. Et on n’a pas les Gafa. Pourquoi les Gafa ont-ils gagné contre les opérateurs télécoms ? Parce que les opérateurs étaient persuadés qu’ils avaient la maîtrise du débit et du client. Les fournisseurs d’accès Internet ont cru qu’ils allaient gagner parce qu’ils avaient les abonnés. Mais lorsque les Gafa ont débarqué avec des applications qui ont été d’emblée adoptées par les clients, c’était fini pour eux. Ils sont passés de très riches à très pauvres. C’est une des raisons pour lesquelles l’Europe a raté le virage. Les opérateurs télécoms européens étaient les maîtres du monde et ils ont été vaincus : Vodafone, Deutsche Telekom, France Telecom avaient une stratégie d’expansion mondiale. C’étaient des cash machines qui émettaient de la monnaie papier car ils contrôlaient les consommateurs en les équipant de portables. Et les Gafa les ont remplacés en dix ans. C’est la preuve empirique que tout reste possible. On n’est pas assez stratèges en Europe. Les Chinois ont gagné la bataille suivante parce qu’ils sont partis de zéro. Il faut sortir de notre complexe d’infériorité vis-à-vis de la Silicon Valley. La bonne nouvelle, c’est que les grands groupes européens, dans l’automobile, l’industrie, les cosmétiques, n’ont pas peur des Gafa. L’IA est une opportunité pour eux. Ensuite, c’est aux gouvernements nationaux et à l’Europe de fournir les moyens de cette transformation. L’Europe doit lancer une plateforme IA en open source. Si l’Europe, qui a créé le GSM, sait définir les normes de l’intelligence artificielle portative, elle deviendra la référence, au moins pour l’Europe continentale.

Ceux qui auront donné le tempo sur les normes auront un avantage compétitif fort.

Aujourd’hui le problème de l’IA, c’est qu’elle n’est pas portable. C’est la forêt, ça foisonne, on est avant que Microsoft n’impose son système d’exploitation pour tous les ordinateurs. Celui qui saura développer l’OS de l’IA va emporter la mise.

Une stratégie IA pour une entreprise, c’est quoi ?

C’est très différent d’une stratégie classique où l’on regarde la concurrence, le marché, les produits, les clients, etc. La première étape est de visualiser le futur, un futur assez lointain, au moins 2030. Dans ce futur, il faut analyser tout ce qui dans son activité peut être impacté par l’IA. Ensuite, il faut développer une stratégie de conquête. Il faut apprendre à se projeter dans le futur : qu’est que ce qu’on va fournir au consommateur de 2036, qui aura accès à l’IA comme celui de 2017 a accès à l’Internet haut débit ? La seconde étape est d’analyser ses actifs, et déterminer ceux qui sont utiles et ceux qui ne le sont pas.

C’est simple à dire, pas à réaliser…

C’est beaucoup plus simple quand on a pris conscience des conséquences de l’arrivée de l’IA. C’est écrire avec le comex les futurs possibles et voir comment on peut les préempter et prendre de l’avance. C’est pour cela que les groupes traditionnels ont encore leur chance. Ils ont un avantage beaucoup plus grand qu’ils ne le pensent…




L'actu écologique |
bessay |
Mr. Sandro's Blog |
Unblog.fr | Annuaire | Signaler un abus | astucesquotidiennes
| MIEUX-ETRE
| louis crusol