Archive pour le Tag 'domination'

Les données numériques européennes sous domination des Gafam

Les  données numériques européennes sous domination des  Gafam

Une lettre ouverte de 52 personnalités du numérique et responsables politiques  à Cédric O, Secrétaire d’État chargé de la transition numérique et des communications électroniques qui dénonce un gigantesque système de prise de contrôle de nos données organisé par les GAFA qui confisquent  ainsi la souveraineté européenne dans le numérique.

 

« En l’espace de deux décennies, les « GAFA » ont éteint toute compétition digne de ce nom. Ils ont monopolisé les secteurs de la messagerie, des réseaux sociaux, de la communication, des moteurs de recherches, des smartphones… en construisant de véritables Empires numériques. Leurs points communs ? Ils sont tous américains, et reposent sur l’exploitation de milliards de données. Avec une insouciance totale, nous autres, Européens, utilisons quotidiennement ces plateformes et permettons à des milliards de données de traverser l’Atlantique pour être stockées sur le Cloud américain. Ces données, ce sont nos conversations privées ou professionnelles, nos données sanitaires, et même des informations intérieures de haute importance.

Si la crise du Covid-19 a révélé l’extrême dépendance de nos productions de masques, de gel et de médicaments vis-à-vis de l’étranger, elle doit aussi précipiter des mesures concrètes pour préserver notre souveraineté numérique qui se dégrade jour après jour. C’est notre liberté collective qui est en jeu.

Le secteur des données est incroyablement déséquilibré en faveur des États-Unis et de la Chine, au sein duquel l’Europe fait pâle figure. En 2018, Amazon, Microsoft, Alibaba, Google et IBM détenaient ni plus ni moins que 76,8% du marché mondial du Cloud (selon Gartner). Et non seulement ces mastodontes pillent nos données, mais ils rachètent aussi à tout-va nos entreprises les plus prometteuses à coup de millions de dollars. Force est de constater que nous sommes les idiots utiles d’une bataille numérique mondiale.

Ce déséquilibre se nourrit de nos habitudes quotidiennes. Lorsque nous écrivons un e-mail, activons notre géolocalisation, visionnons des publicités…, nous envoyons des données stockées dans des serveurs américains, permettant aux GAFA omniscients d’en tirer d’immenses bénéfices. Prenons un secteur qui nous est cher : la messagerie. Google, avec Gmail, a la capacité d’analyser et de lire l’intégralité de nos messages « privés » et de revendre ces données à d’autres entreprises. Même la DGSI, le cœur des renseignements français, a récemment décidé de continuer de travailler avec le géant américain Palantir, tandis qu’une grande partie de notre administration publique échange des mails à travers… Microsoft.

Or, comprenons bien que ce qu’on appelle une « donnée » n’est pas une simple information numérique. C’est une ressource, un trésor numérique national, le pétrole d’aujourd’hui ! Les données sont aussi importantes que la découverte et l’exploitation de ressources naturelles. En fournissant gratuitement nos données aux GAFA, nous alimentons aussi le développement de leurs programmes d’intelligence artificielle, et nous prenons un immense retard dans ce qui constitue la prochaine révolution économique et industrielle déjà en cours, et dont nous dilapidons la matière première. Alors, agissons dès maintenant.

L’objectif est donc clair : maintenir nos données sur notre sol en faisant émerger des services alternatifs. Malheureusement, l’Europe se limite aujourd’hui à un rôle de régulateur, à l’heure où les États-Unis (avec le CLOUD Act) et la Chine (avec le bannissement des GAFA) mènent une politique agressive. En France, les mesures fiscales et de relocalisation de certaines données publiques mises en place sont largement insuffisantes. Alors ne nous limitons pas à de grands discours, agissons !

Nous avons besoin d’un État à la fois protecteur et stratège. Protecteur parce qu’il doit prendre les mesures nécessaires pour protéger massivement nos données. Stratège parce qu’une vision long-termiste est nécessaire pour définir notre stratégie numérique. Si nous n’agissons qu’au fil des événements, à coup sûr nous perdrons !

Pour obtenir ce cadre protecteur au niveau de l’UE, utilisons la même méthode concrète que pour la taxe GAFA : commençons par la France, donnons l’exemple en Europe par des dispositions courageuses. C’est dans cet esprit que nous vous appelons, Monsieur le Ministre, à créer un label « NSF » (« Numérique Souveraineté France ») décerné aux services internet français vraiment respectueux de nos données personnelles. Ce label devra s’obtenir selon 4 critères essentiels : le premier est le respect des réglementations françaises en matière de données personnelles. Le second est l’hébergement en France des données des internautes français utilisant le service. Le troisième est que la maison mère de l’éditeur du service paye ses impôts en France. Le quatrième est de ne pas être contraint par une législation étrangère sur le sol français (comme le CLOUD Act). La mise en place sans tarder à l’échelle nationale du label « NSF » doit préfigurer la mise en place d’un « NSE » (« Numérique Souveraineté Europe ») qui devra suivre au plus vite.

L’objectif de ce label n’est pas seulement réputationnel, il consiste à mettre en lumière et à valoriser les entreprises qui œuvrent dans le sens de notre souveraineté numérique et qui créeront de nombreux emplois. Les pouvoirs publics doivent aussi avoir une démarche déterminée pour encourager les sociétés labellisées et notamment en utilisant leurs solutions dans l’administration.

Ce label ne serait bien entendu qu’une première étape, un socle essentiel, avant la mise en place d’une politique numérique souveraine et ambitieuse, à laquelle nous sommes résolument prêts à contribuer par des propositions très concrètes. »

StopCovid: échapper à la domination d’ Apple et Google»

StopCovid: échapper à la domination d’ Apple et Google», Aymeril Hoang (Conseil scientifique)

Aymeril Hoang, qui fut directeur du cabinet de l’ancien secrétaire d’Etat au Numérique Mounir Mahjoubi, siège au sein du Conseil scientifique. Il explique la stratégie de stop Covid dans une interview de l’Opinion

Quelles principales caractéristiques ont été retenues pour l’application StopCovid ?

Cette application fait appel au système Bluetooth afin de savoir à quelle distance et combien de temps des personnes ont été en présence. A partir de ces données anonymisées, elle permet d’alerter les contacts d’une personne contaminée. Seules les données des personnes à alerter circulent jusqu’au serveur. Elles sont conservées trois semaines avant d’être supprimées. Le téléchargement de l’application StopCovid est facultatif. A l’issue de l’état d’urgence sanitaire, le serveur est désactivé.

Comment justifier StopCovid, application intrusive malgré des garanties sur l’anonymat et le volontariat, qui restera d’une efficacité limitée dans la lutte contre la pandémie ?

Le Conseil scientifique répond à cette question : « L’outil numérique peut se révéler extrêmement précieux pour renforcer l’efficacité du dispositif » à partir du 11 mai. Cette stratégie de sortie du confinement repose sur l’identification la plus précoce possible des contacts des personnes contaminées. Le traçage des contacts, associé à l’humain via des équipes sanitaires mobiles et des plateformes téléphoniques assurant la prise en charge des personnes diagnostiquées, est un élément essentiel du contrôle sanitaire post-confinement. Mais ce traçage ne se suffit pas à lui-même, il n’a pas d’effet magique.

Cet objectif ne risque-t-il pas de buter sur la faible proportion d’utilisateurs ? Combien de Français sont-ils prêts à télécharger cette application ?

Les épidémiologistes sont clairs : l’intérêt sanitaire d’un tel dispositif est prouvé quel que soit le niveau d’installation. Mais évidemment, plus l’application est téléchargée, plus l’efficacité est grande. La seule communication gouvernementale ne suffira pas à susciter l’adhésion. La dimension « communautaire » – au sein d’un village, d’un groupe d’amis, de collègues de travail – sera une incitation forte à utiliser ce « tracing », dans le respect du consentement social bien sûr. A Singapour, trois semaines après sa mise en place, environ 20 % de la population a installé l’application TraceTogether, dont StopCovid s’est inspiré. Les autorités singapouriennes sont sans doute un peu déçues par ce chiffre mais le système fonctionne. Exemple de cette diffusion par « communautés » : les expatriés français utiliseraient très largement TraceTogether.

«Sans équipes d’enquêteurs sanitaires, la stratégie de contrôle de l’épidémie risque d’être mise à mal. StopCovid n’est ni un vaccin, ni un médicament. Elle s’inscrit dans un parcours global d’accompagnement sanitaire»

Outre ce tracing, la constitution d’équipes sanitaires est essentielle, selon le Conseil scientifique. Quel rôle vont-elles jouer ?

Il est double. D’une part continuer d’assurer la remontée des personnes côtoyées par une personne contaminée en reconstituant avec elle la chaîne de ses contacts, en faisant appel à sa mémoire. D’autre part, informer, orienter, voire tester les personnes qui auront été averties de leur possible contamination. De plus, avant que ne soit déclenchée l’alerte auprès des contacts d’une personne positive au Covid-19, il faut une vérification par un médecin ou un infirmier. Si on ne constitue pas ces équipes d’enquêteurs sanitaires, la stratégie de contrôle de l’épidémie après le déconfinement risque d’être mise à mal. C’est un défi pour les autorités de santé publique qui doivent monter en puissance sur ce point. L’application StopCovid n’est ni un vaccin, ni un médicament. Elle s’inscrit dans un parcours global d’accompagnement sanitaire.

Une série d’obstacles technologiques doit être surmontée. La coopération d’Apple et Google est loin d’être acquise. Dimanche, les Allemands ont annoncé qu’ils quittaient le consortium européen qui travaille sur StopCovid. Ce revirement, après le départ des Suisses, met en péril la future solution européenne…

C’est un coup de théâtre ! Il serait lié à une pétition de chercheurs en numérique qui louaient la solution proposée par Google et Apple. Cela doit nous interroger sur la véritable nature des enjeux. Le Conseil scientifique a prévenu : attention à ne pas laisser des intérêts privés commerciaux se saisir de la crise pour pénétrer et percuter durablement le système de santé publique et ses valeurs de solidarité et d’universalité. Le consortium européen – réunissant désormais Français, Italiens et Espagnols – qui travaille sur StopCovid élabore un protocole sans se soucier de celui d’Apple et Google. C’est un choix politique : des Etats souverains veulent pouvoir développer leur propre solution sanitaire et technologique sous contrôle démocratique. Sur un plan technique, cela suppose en effet de lever un premier obstacle qui concerne le Bluetooth car, à la différence du système d’exploitation Android de Google, Apple n’autorise pas à le laisser fonctionner en arrière-plan. Conséquence : lorsque votre téléphone sera en veille, StopCovid ne fonctionnera pas. Cela réduirait considérablement l’efficacité du système.

Comment convaincre Apple ? 20 % des Français sont équipés d’iPhone…

Les équipes techniques discutent. Le commissaire européen Thierry Breton a récemment parlé au PDG d’Apple, Tim Cook, afin que StopCovid puisse fonctionner. C’est à la fois une question de souveraineté et de liberté du propriétaire d’un smartphone. Ce dernier est-il en mesure d’utiliser son appareil comme il le veut alors que sa santé est en jeu ? Je n’envisage pas qu’Apple réponde non. Il est quand même surprenant qu’on en soit arrivé à un débat où des Etats, des autorités de santé publique doivent légitimer leur souveraineté face à Google ou Apple… !

La Cnil a rendu dimanche un avis positif, sous réserve de garanties, sur StopCovid. Le débat reste vif. Les opposants, qui pointent les atteintes aux libertés individuelles, le risque de Big Brother, ne manquent pas d’arguments. Que leur répondez-vous ?

Ce débat s’est malheureusement polarisé entre ceux qui, jugeant tout système inefficace et dangereux, ne veulent rien faire, et ceux qui, au nom de l’urgence sanitaire, sont prêts à franchir la ligne rouge et à rejoindre le Meilleur des mondes de Huxley et le bonheur sous surveillance. Entre les deux, il y a la place pour une solution minimaliste, proportionnée et respectueuse des droits individuels et de la souveraineté du système de santé publique. La machine gouvernementale reste vigilante et prudente. Les feux sont au vert sous réserve que tout soit parfaitement bordé et à condition que le débat à l’Assemblée soit favorable. In fine, ce sera à chaque Français de choisir : utiliser StopCovid ou pas, porter un masque, adopter les gestes barrières.

Société: la domination par les algorithmes?

Société: la domination par les algorithmes?

 

Dans un article paru dans Mediapart,  Jean Paul Baquiast, écrivain scientifique, fait une approche critique de la mainmise de grands de l’ internet sur la société. un danger évident d’autant que ces grandes sociétés sont exclusivement américaines ou chinoises. Reste à savoir cependant si l’algorithmique n’est pas encore plus anxiogène  vis-à-vis du  futur mode de production avec la substitution de la robotique à l’intervention humaine sur nombre d’opérations. (Mais ce n’est pas le sujet traité par Baquiast qui réduit le champ de l’analyse aux GAFA).

 

« Depuis quelques temps, de nombreux articles ou exposés dénoncent le poids politique pris par ce qu’ils appellent les algorithmes. Le terme est compris généralement comme désignant des programmes informatiques incompréhensibles, ayant pris possession du monde des Big Data. Celles-ci sont des informations concernant principalement les humains et leurs activités et recueillies en grand nombre auprès de nous par les grands de l’internet américain, dits GAFA (ou Géants du Web, Google, Apple, Facebook, Amazon). Nous sommes tous demandeurs des facilités diverses qu’ils offrent à l’internaute, ceci apparemment quasi gratuitement. Mais les Big Data ne sont rien sans les algorithmes programmés pour en tirer des informations d’un grand intérêt politique et économique, informations que bien évidemment les GAFA gardent pour eux afin de s’en servir pour conquérir le monde de demain, comme Google on le sait ne se cache absolument pas de rechercher. Il est évident que les algorithmes n’ont pas de pouvoir de décision propre. Ils sont mis en oeuvre et alimentés par les GAFA et homologues qui s’en servent pour construire une société numérique globale – on parle aussi de cerveau global – leur permettant d’analyser, prévoir et exploiter à leur profit toutes les activités résultant des activités numériques des internautes. Ces GAFA ne sont pas désintéressés. Ils servent la petite poignée de dirigeants qui en ont fait des prestataires de service conçus pour répondre au mieux à leur objectif de domination. Ils servent aussi d’intermédiaires au gouvernement américain qui les a encouragés voir financés initialement pour espionner massivement les entreprises, administrations et citoyens obligés en l’absence d’autres solutions de faire appel aux services des GAFA. Il est certain cependant que dans le monde hyper-complexe de l’algorithmique moderne se nourrissant de Big Data, certains algorithmes semblent occasionnellement échapper à leurs concepteurs et opérateurs pour se comporter de façon autonome. Ceci avait été signalé à propos des algorithmes responsables de la spéculation financière à haute fréquence (high frequency trading) qui peuvent en quelques secondes et de leur propre chef prendre des décisions de vente et d’achat se traduisant par des bénéfices ou des pertes que personne ne cherchait. Mais si les algorithmes permettant de telles décisions existent, ce n’est pas parce qu’ils sont nés spontanément. Leur existence et leurs activités sont prévues et encouragées par les spéculateurs humains et les gouvernements dont ils dépendent, afin d’accroître globalement les pouvoirs de ces derniers. Dénoncer une quelconque prise de pouvoir ou domination par les algorithmes relève donc du mensonge pur et simple. En bonne démocratie, ce devrait être les forces politiques et économiques qui les utilisent qu’il conviendrait de dénoncer. Plus concrètement, il faudrait accuser les GAFA et le gouvernement américain qui se servent des algorithmes pour mettre à leur service les acteurs de la nouvelle société numérique s’étendant aujourd’hui à l’échelle du monde. Nous avons précédemment montré comment la NSA, National Security Agency, la CIA et le FBI aux Etats-Unis, utilisent et souvent financent les GAFA. Les algorithmes se présentent sous la forme de modèles mathématiques – une fois encore difficilement compréhensibles, même par des mathématiciens. Ils prennent désormais en permanence toutes les décisions relatives à la vie de chacun dans la société numérique, quoi acheter, où habiter, où voyager, comment et à quels tarifs s’assurer. Leur caractère apparemment objectif, du fait de leur formulation mathématique, rassure. Chacun devrait être traité selon les mêmes règles. Ce n’est pas le cas. C’est ce que vient de montrer dans un livre important « Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy ». Cathy O’Neil est elle-même mathématicienne et ancienne trader à Wall Street. Inutile de préciser que le terme de Math Destruction, destruction d’ordre mathématique, fait allusion au terme de « destruction massive ». Pour elle, les algorithmes sont opaques, non régulés démocratiquement et non contestables, même lorsqu’ils s’avèrent faux. Cathy O’Neil en appelle à la responsabilité des mathématiciens qui conçoivent ces modèles et aux décideurs qui les utilisent. Ils doivent travailler pour que les algorithmes soient transparents, discutables en termes politiques, facilement modifiables afin de les rendre plus conformes aux réalités et besoins de la société dans son ensemble. L’objectif qu’elle propose est certes très souhaitable. Mais Cathy O’Neil, involontairement ou sciemment, ne fait pas assez remarquer que les concepteurs des algorithmes dont elle constate les effets destructifs ne sont pas animés par l’objectif d’améliorer le fonctionnement de la société dans son ensemble. Moins encore par celui de redonner de l’influence et du pouvoir au 95% des populations qui les subissent. Ils sont au service des 5% de dominants, afin d’accroître encore leurs profits et leur pouvoir. Il en est de même des GAFA de toutes sortes qui se multiplient. A travers les données que leur confient innocemment leurs utilisateurs et les algorithmes qu’ils emploient pour les interpréter, ils prennent des décisions visant à servir les intérêts des super-dominants. Les exemples de ceci sont nombreux, encore qu’il faille un oeil particulièrement informé techniquement pour s’en rendre compte en détail. On peut mentionner ainsi la façon dont Facebook censure ou promeut les messages et les images selon les intérêts des dominants. Les prétextes annoncés sont généralement tout à fait honorables, mais en y regardant mieux on peut entrevoir les liaisons étroites des GAFA avec la volonté de conquête de l’Empire américain. On dira que les GAFA ont délocalisé leurs fonctions d’évaluation au profit de milliers de « modérateurs » travaillant généralement pour des entreprises du Moyen Orient ou d’Asie du sud-est. Ceci devrait garantir une certaine impartialité de la part de ces modérateurs, du fait notamment qu’ils ne peuvent pas tous être obligés d’appliquer en détail d’éventuels mots d’ordre de censure. Mais il faut savoir que les propositions de décision émanant de ces modérateurs sont soumises à un algorithme central adéquat qui commande la décision finale. Ces algorithmes sont par nature incapables de percevoir les nuances ironiques, sarcastiques ou culturelles d’une expression. Par contre, ils sont très capables de prendre avec la plus grande brutalité des décisions répondant à des objectifs simples fixés par les pouvoirs. Comme nous l’avons indiqué cependant, en citant notamment Alain Cardon, la complexité et l’intrication des algorithmes permettront de plus en plus à beaucoup d’entre eux de prendre seuls des décisions politiquement importantes, de censure ou de promotion. La décision une fois prise, il s’avère pratiquement impossible de l’annuler, ceci notamment pour des administrations de régulation ou des tribunaux.  Il est toujours possible de « débrancher » l’algorithme, aussi autonome qu’il soit. La même constatation devra être faite dans l’avenir à propos des robots autonomes. Si les résultats de leur autonomie déplaisent aux maîtres du monde, ils seront rapidement débranchés. Cathy O’Neil a fait un travail très important, en montrant sans faire appel à des concepts mathématiques la façon dont les algorithmes régentent dorénavant nos vies. De même, elle montre bien comment dans l’ensemble ils sont au service du profit financier maximum des entreprises qui y ont recours ou des GAFA qui fournissent les données des informations dont ils se nourrissent. Mais ni elle ni les bons esprits qui dénoncent de plus en plus le pouvoir des algorithmes ne proposent la véritable révolution politique qui serait nécessaire pour redonner à la majorité des citoyens la possibilité de reprendre le pouvoir dans la société numérique. Certains fondent des espoirs dans la conception de nouveaux logiciels et de nouveaux processus informationnels qui seraient plus transparents et plus contrôlables. Mais on ne voit pas clairement comment ceux-ci pourront échapper à la prise en main par de nouveaux pouvoirs, ou plus simplement à la récupération par les pouvoirs actuels. Beaucoup en concluront que démocratiser les algorithmes sera définitivement impossible, et qu’il faudra se résigner. »

 

La domination par les algorithmes. Mythe ou réalité?

La domination par les algorithmes. Mythe ou réalité?

Dans un article paru dans Mediapart,  Jean Paul Baquiast, écrivain scientifique, faiat une apparoche critique de la mainmise de grands de l’ linternet sur la société. Il danger évident d’autant que ces grandes sociétés sont exclusivement américaines. Reste à savoir cependant si l’algorithmique n’est pas encore plus anxiogène  vis-à-vis du  futur mode de production avec la substitution de la robotique à l’intervention humaine sur nombre d’opérations. (Mais ce n’est pas le sujet traité par Baquiast qui réduit le champ de l’analyse aux GAFA).

 

« Depuis quelques temps, de nombreux articles ou exposés dénoncent le poids politique pris par ce qu’ils appellent les algorithmes. Le terme est compris généralement comme désignant des programmes informatiques incompréhensibles, ayant pris possession du monde des Big Data. Celles-ci sont des informations concernant principalement les humains et leurs activités et recueillies en grand nombre auprès de nous par les grands de l’internet américain, dits GAFA (ou Géants du Web, Google, Apple, Facebook, Amazon). Nous sommes tous demandeurs des facilités diverses qu’ils offrent à l’internaute, ceci apparemment quasi gratuitement. Mais les Big Data ne sont rien sans les algorithmes programmés pour en tirer des informations d’un grand intérêt politique et économique, informations que bien évidemment les GAFA gardent pour eux afin de s’en servir pour conquérir le monde de demain, comme Google on le sait ne se cache absolument pas de rechercher. Il est évident que les algorithmes n’ont pas de pouvoir de décision propre. Ils sont mis en oeuvre et alimentés par les GAFA et homologues qui s’en servent pour construire une société numérique globale – on parle aussi de cerveau global – leur permettant d’analyser, prévoir et exploiter à leur profit toutes les activités résultant des activités numériques des internautes. Ces GAFA ne sont pas désintéressés. Ils servent la petite poignée de dirigeants qui en ont fait des prestataires de service conçus pour répondre au mieux à leur objectif de domination. Ils servent aussi d’intermédiaires au gouvernement américain qui les a encouragés voir financés initialement pour espionner massivement les entreprises, administrations et citoyens obligés en l’absence d’autres solutions de faire appel aux services des GAFA. Il est certain cependant que dans le monde hyper-complexe de l’algorithmique moderne se nourrissant de Big Data, certains algorithmes semblent occasionnellement échapper à leurs concepteurs et opérateurs pour se comporter de façon autonome. Ceci avait été signalé à propos des algorithmes responsables de la spéculation financière à haute fréquence (high frequency trading) qui peuvent en quelques secondes et de leur propre chef prendre des décisions de vente et d’achat se traduisant par des bénéfices ou des pertes que personne ne cherchait. Mais si les algorithmes permettant de telles décisions existent, ce n’est pas parce qu’ils sont nés spontanément. Leur existence et leurs activités sont prévues et encouragées par les spéculateurs humains et les gouvernements dont ils dépendent, afin d’accroître globalement les pouvoirs de ces derniers. Dénoncer une quelconque prise de pouvoir ou domination par les algorithmes relève donc du mensonge pur et simple. En bonne démocratie, ce devrait être les forces politiques et économiques qui les utilisent qu’il conviendrait de dénoncer. Plus concrètement, il faudrait accuser les GAFA et le gouvernement américain qui se servent des algorithmes pour mettre à leur service les acteurs de la nouvelle société numérique s’étendant aujourd’hui à l’échelle du monde. Nous avons précédemment montré comment la NSA, National Security Agency, la CIA et le FBI aux Etats-Unis, utilisent et souvent financent les GAFA. Les algorithmes se présentent sous la forme de modèles mathématiques – une fois encore difficilement compréhensibles, même par des mathématiciens. Ils prennent désormais en permanence toutes les décisions relatives à la vie de chacun dans la société numérique, quoi acheter, où habiter, où voyager, comment et à quels tarifs s’assurer. Leur caractère apparemment objectif, du fait de leur formulation mathématique, rassure. Chacun devrait être traité selon les mêmes règles. Ce n’est pas le cas. C’est ce que vient de montrer dans un livre important « Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy ». Cathy O’Neil est elle-même mathématicienne et ancienne trader à Wall Street. Inutile de préciser que le terme de Math Destruction, destruction d’ordre mathématique, fait allusion au terme de « destruction massive ». Pour elle, les algorithmes sont opaques, non régulés démocratiquement et non contestables, même lorsqu’ils s’avèrent faux. Cathy O’Neil en appelle à la responsabilité des mathématiciens qui conçoivent ces modèles et aux décideurs qui les utilisent. Ils doivent travailler pour que les algorithmes soient transparents, discutables en termes politiques, facilement modifiables afin de les rendre plus conformes aux réalités et besoins de la société dans son ensemble. L’objectif qu’elle propose est certes très souhaitable. Mais Cathy O’Neil, involontairement ou sciemment, ne fait pas assez remarquer que les concepteurs des algorithmes dont elle constate les effets destructifs ne sont pas animés par l’objectif d’améliorer le fonctionnement de la société dans son ensemble. Moins encore par celui de redonner de l’influence et du pouvoir au 95% des populations qui les subissent. Ils sont au service des 5% de dominants, afin d’accroître encore leurs profits et leur pouvoir. Il en est de même des GAFA de toutes sortes qui se multiplient. A travers les données que leur confient innocemment leurs utilisateurs et les algorithmes qu’ils emploient pour les interpréter, ils prennent des décisions visant à servir les intérêts des super-dominants. Les exemples de ceci sont nombreux, encore qu’il faille un oeil particulièrement informé techniquement pour s’en rendre compte en détail. On peut mentionner ainsi la façon dont Facebook censure ou promeut les messages et les images selon les intérêts des dominants. Les prétextes annoncés sont généralement tout à fait honorables, mais en y regardant mieux on peut entrevoir les liaisons étroites des GAFA avec la volonté de conquête de l’Empire américain. On dira que les GAFA ont délocalisé leurs fonctions d’évaluation au profit de milliers de « modérateurs » travaillant généralement pour des entreprises du Moyen Orient ou d’Asie du sud-est. Ceci devrait garantir une certaine impartialité de la part de ces modérateurs, du fait notamment qu’ils ne peuvent pas tous être obligés d’appliquer en détail d’éventuels mots d’ordre de censure. Mais il faut savoir que les propositions de décision émanant de ces modérateurs sont soumises à un algorithme central adéquat qui commande la décision finale. Ces algorithmes sont par nature incapables de percevoir les nuances ironiques, sarcastiques ou culturelles d’une expression. Par contre, ils sont très capables de prendre avec la plus grande brutalité des décisions répondant à des objectifs simples fixés par les pouvoirs. Comme nous l’avons indiqué cependant, en citant notamment Alain Cardon, la complexité et l’intrication des algorithmes permettront de plus en plus à beaucoup d’entre eux de prendre seuls des décisions politiquement importantes, de censure ou de promotion. La décision une fois prise, il s’avère pratiquement impossible de l’annuler, ceci notamment pour des administrations de régulation ou des tribunaux. Par contre, ce que ne peuvent pas faire ces gardiens de l’ordre public et de la démocratie, les pouvoirs économiques et politiques de ceux qui ont mis en place ou toléré les algorithmes restent pratiquement inchangés. Il est toujours possible pour eux de « débrancher » l’algorithme, aussi autonome qu’il soit. La même constatation devra être faite dans l’avenir à propos des robots autonomes. Si les résultats de leur autonomie déplaisent aux maîtres du monde, ils seront rapidement débranchés. Cathy O’Neil a fait un travail très important, en montrant sans faire appel à des concepts mathématiques la façon dont les algorithmes régentent dorénavant nos vies. De même, elle montre bien comment dans l’ensemble ils sont au service du profit financier maximum des entreprises qui y ont recours ou des GAFA qui fournissent les données des informations dont ils se nourrissent. Mais ni elle ni les bons esprits qui dénoncent de plus en plus le pouvoir des algorithmes ne proposent la véritable révolution politique qui serait nécessaire pour redonner à la majorité des citoyens la possibilité de reprendre le pouvoir dans la société numérique. Certains fondent des espoirs dans la conception de nouveaux logiciels et de nouveaux processus informationnels qui seraient plus transparents et plus contrôlables. Mais on ne voit pas clairement comment ceux-ci pourront échapper à la prise en main par de nouveaux pouvoirs, ou plus simplement à la récupération par les pouvoirs actuels. Beaucoup en concluront que démocratiser les algorithmes sera définitivement impossible, et qu’il faudra se résigner.

Jean Paul Baquiast 

Source Mediapart

La domination par les algorithmes. Mythe ou réalité?

La domination par les algorithmes. Mythe ou réalité?

Dans un article paru dans Mediapart,  Jean Paul Baquiast, écrivain scientifique, faiat une apparoche critique de la mainmise de grands de l’ linternet sur la société. Il danger évident d’autant que ces grandes sociétés sont exclusivement américaines. Reste à savoir cependant si l’algorithmique n’est pas encore plus anxiogène  vis-à-vis du  futur mode de production avec la substitution de la robotique à l’intervention humaine sur nombre d’opérations. (Mais ce n’est pas le sujet traité par Baquiast qui réduit le champ de l’analyse aux GAFA).

 

« Depuis quelques temps, de nombreux articles ou exposés dénoncent le poids politique pris par ce qu’ils appellent les algorithmes. Le terme est compris généralement comme désignant des programmes informatiques incompréhensibles, ayant pris possession du monde des Big Data. Celles-ci sont des informations concernant principalement les humains et leurs activités et recueillies en grand nombre auprès de nous par les grands de l’internet américain, dits GAFA (ou Géants du Web, Google, Apple, Facebook, Amazon). Nous sommes tous demandeurs des facilités diverses qu’ils offrent à l’internaute, ceci apparemment quasi gratuitement. Mais les Big Data ne sont rien sans les algorithmes programmés pour en tirer des informations d’un grand intérêt politique et économique, informations que bien évidemment les GAFA gardent pour eux afin de s’en servir pour conquérir le monde de demain, comme Google on le sait ne se cache absolument pas de rechercher. Il est évident que les algorithmes n’ont pas de pouvoir de décision propre. Ils sont mis en oeuvre et alimentés par les GAFA et homologues qui s’en servent pour construire une société numérique globale – on parle aussi de cerveau global – leur permettant d’analyser, prévoir et exploiter à leur profit toutes les activités résultant des activités numériques des internautes. Ces GAFA ne sont pas désintéressés. Ils servent la petite poignée de dirigeants qui en ont fait des prestataires de service conçus pour répondre au mieux à leur objectif de domination. Ils servent aussi d’intermédiaires au gouvernement américain qui les a encouragés voir financés initialement pour espionner massivement les entreprises, administrations et citoyens obligés en l’absence d’autres solutions de faire appel aux services des GAFA. Il est certain cependant que dans le monde hyper-complexe de l’algorithmique moderne se nourrissant de Big Data, certains algorithmes semblent occasionnellement échapper à leurs concepteurs et opérateurs pour se comporter de façon autonome. Ceci avait été signalé à propos des algorithmes responsables de la spéculation financière à haute fréquence (high frequency trading) qui peuvent en quelques secondes et de leur propre chef prendre des décisions de vente et d’achat se traduisant par des bénéfices ou des pertes que personne ne cherchait. Mais si les algorithmes permettant de telles décisions existent, ce n’est pas parce qu’ils sont nés spontanément. Leur existence et leurs activités sont prévues et encouragées par les spéculateurs humains et les gouvernements dont ils dépendent, afin d’accroître globalement les pouvoirs de ces derniers. Dénoncer une quelconque prise de pouvoir ou domination par les algorithmes relève donc du mensonge pur et simple. En bonne démocratie, ce devrait être les forces politiques et économiques qui les utilisent qu’il conviendrait de dénoncer. Plus concrètement, il faudrait accuser les GAFA et le gouvernement américain qui se servent des algorithmes pour mettre à leur service les acteurs de la nouvelle société numérique s’étendant aujourd’hui à l’échelle du monde. Nous avons précédemment montré comment la NSA, National Security Agency, la CIA et le FBI aux Etats-Unis, utilisent et souvent financent les GAFA. Les algorithmes se présentent sous la forme de modèles mathématiques – une fois encore difficilement compréhensibles, même par des mathématiciens. Ils prennent désormais en permanence toutes les décisions relatives à la vie de chacun dans la société numérique, quoi acheter, où habiter, où voyager, comment et à quels tarifs s’assurer. Leur caractère apparemment objectif, du fait de leur formulation mathématique, rassure. Chacun devrait être traité selon les mêmes règles. Ce n’est pas le cas. C’est ce que vient de montrer dans un livre important « Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy ». Cathy O’Neil est elle-même mathématicienne et ancienne trader à Wall Street. Inutile de préciser que le terme de Math Destruction, destruction d’ordre mathématique, fait allusion au terme de « destruction massive ». Pour elle, les algorithmes sont opaques, non régulés démocratiquement et non contestables, même lorsqu’ils s’avèrent faux. Cathy O’Neil en appelle à la responsabilité des mathématiciens qui conçoivent ces modèles et aux décideurs qui les utilisent. Ils doivent travailler pour que les algorithmes soient transparents, discutables en termes politiques, facilement modifiables afin de les rendre plus conformes aux réalités et besoins de la société dans son ensemble. L’objectif qu’elle propose est certes très souhaitable. Mais Cathy O’Neil, involontairement ou sciemment, ne fait pas assez remarquer que les concepteurs des algorithmes dont elle constate les effets destructifs ne sont pas animés par l’objectif d’améliorer le fonctionnement de la société dans son ensemble. Moins encore par celui de redonner de l’influence et du pouvoir au 95% des populations qui les subissent. Ils sont au service des 5% de dominants, afin d’accroître encore leurs profits et leur pouvoir. Il en est de même des GAFA de toutes sortes qui se multiplient. A travers les données que leur confient innocemment leurs utilisateurs et les algorithmes qu’ils emploient pour les interpréter, ils prennent des décisions visant à servir les intérêts des super-dominants. Les exemples de ceci sont nombreux, encore qu’il faille un oeil particulièrement informé techniquement pour s’en rendre compte en détail. On peut mentionner ainsi la façon dont Facebook censure ou promeut les messages et les images selon les intérêts des dominants. Les prétextes annoncés sont généralement tout à fait honorables, mais en y regardant mieux on peut entrevoir les liaisons étroites des GAFA avec la volonté de conquête de l’Empire américain. On dira que les GAFA ont délocalisé leurs fonctions d’évaluation au profit de milliers de « modérateurs » travaillant généralement pour des entreprises du Moyen Orient ou d’Asie du sud-est. Ceci devrait garantir une certaine impartialité de la part de ces modérateurs, du fait notamment qu’ils ne peuvent pas tous être obligés d’appliquer en détail d’éventuels mots d’ordre de censure. Mais il faut savoir que les propositions de décision émanant de ces modérateurs sont soumises à un algorithme central adéquat qui commande la décision finale. Ces algorithmes sont par nature incapables de percevoir les nuances ironiques, sarcastiques ou culturelles d’une expression. Par contre, ils sont très capables de prendre avec la plus grande brutalité des décisions répondant à des objectifs simples fixés par les pouvoirs. Comme nous l’avons indiqué cependant, en citant notamment Alain Cardon, la complexité et l’intrication des algorithmes permettront de plus en plus à beaucoup d’entre eux de prendre seuls des décisions politiquement importantes, de censure ou de promotion. La décision une fois prise, il s’avère pratiquement impossible de l’annuler, ceci notamment pour des administrations de régulation ou des tribunaux. Par contre, ce que ne peuvent pas faire ces gardiens de l’ordre public et de la démocratie, les pouvoirs économiques et politiques de ceux qui ont mis en place ou toléré les algorithmes restent pratiquement inchangés. Il est toujours possible pour eux de « débrancher » l’algorithme, aussi autonome qu’il soit. La même constatation devra être faite dans l’avenir à propos des robots autonomes. Si les résultats de leur autonomie déplaisent aux maîtres du monde, ils seront rapidement débranchés. Cathy O’Neil a fait un travail très important, en montrant sans faire appel à des concepts mathématiques la façon dont les algorithmes régentent dorénavant nos vies. De même, elle montre bien comment dans l’ensemble ils sont au service du profit financier maximum des entreprises qui y ont recours ou des GAFA qui fournissent les données des informations dont ils se nourrissent. Mais ni elle ni les bons esprits qui dénoncent de plus en plus le pouvoir des algorithmes ne proposent la véritable révolution politique qui serait nécessaire pour redonner à la majorité des citoyens la possibilité de reprendre le pouvoir dans la société numérique. Certains fondent des espoirs dans la conception de nouveaux logiciels et de nouveaux processus informationnels qui seraient plus transparents et plus contrôlables. Mais on ne voit pas clairement comment ceux-ci pourront échapper à la prise en main par de nouveaux pouvoirs, ou plus simplement à la récupération par les pouvoirs actuels. Beaucoup en concluront que démocratiser les algorithmes sera définitivement impossible, et qu’il faudra se résigner.

Jean Paul Baquiast 

Source Mediapart




L'actu écologique |
bessay |
Mr. Sandro's Blog |
Unblog.fr | Créer un blog | Annuaire | Signaler un abus | astucesquotidiennes
| MIEUX-ETRE
| louis crusol