L’IA générative : danger civilisationnel (Eric Sadin, philosophe)

L’IA générative : danger civilisationnel (Eric Sadin, philosophe)

Face au constat d’une régulation qui n’est « pas à la hauteur des enjeux » pour nous protéger des dérives des technologies, le philosophe Éric Sadin appelle les citoyens à s’unir pour refuser l’IA générative, perçue comme un « danger civilisationnel ».(Interview dans « La tribune »)

Dans votre nouveau livre, La Vie spectrale, vous qualifiez l’irruption de l’IA générative de « séisme planétaire » et de « mutation civilisationnelle ». A ce point ?

ERIC SADIN – Nous avons affaire à une bascule anthropologique. Depuis une quinzaine d’années, l’intelligence artificielle était essentiellement une puissance organisationnelle de pans toujours plus étendus des affaires humaines. Depuis l’arrivée de ChatGPT, il y a un an, un nouveau palier a été franchi, que j’appelle le « tournant intellectuel et créatif des IA ». Il faut prendre la mesure de ce qu’il se passe. En créant elles-mêmes des contenus à partir de simples instructions appelées des « prompts », les IA génératives assurent désormais des tâches qui jusque-là mobilisaient nos facultés intellectuelles et créatives, en maîtrisant le langage et en produisant des images et des sons. Soit des productions symboliques qui nous caractérisent en propre. En cela, il s’agit d’une mutation culturelle et civilisationnelle majeure. Or, elle est présentée sous les oripeaux d’un simple outil de productivité, comme quelque chose de « cool » et d’utile. Sauf qu’au-delà d’un rapport strictement utilitariste à ces technologies, nous ne savons pas envisager l’étendue des conséquences civilisationnelles qui pointent. Saisissons-nous, par exemple, que nos enfants nous diront bientôt : « Pourquoi aller à l’école, apprendre la grammaire, lire des œuvres, si un système produit du texte d’une simple commande de notre part ? »

Les gains de productivité et la simplification de certaines tâches permises par les IA génératives cachent-ils leur véritable nature ?

Oui. L’utilitarisme et la quête éperdue de productivité à l’œuvre depuis plus d’un siècle dans nos sociétés, ont abouti à ce qu’on accueille avec enthousiasme, voire admiration, un outil qui nous amène au fur et à mesure à renoncer à nos facultés humaines les plus fondamentales.

Je pense que les démocraties se seraient honorées à fixer d’entrée de jeu une ligne rouge. Dire « non, l’IA générative va trop loin ». La première réaction de l’Italie a par ailleurs été d’interdire ChatGPT, mais pour des seules raisons de protection de données personnelles, et aucunement en raison de l’ampleur des effets annoncés sur nos sociétés.

Rapidement, les sceptiques sont vite rentrés dans le rang car il y a aujourd’hui un biais dans notre conception du monde, qui est la place occupée par l’industrie du numérique. L’innovation, le franchissement de nouvelles frontières technologiques, représentent l’horizon lumineux de notre temps. L’idéologie de la Silicon Valley et sa doxa techno-solutionniste, empêchent de penser que ce qui est technologiquement possible n’est pas forcément souhaitable. À cet égard, un tabou est à l’œuvre : celui d’interdire, de dire non à des systèmes qui font offense à ce qui nous constitue en propre et qui bafouent nos principes les plus fondamentaux.

N‘est-ce pas le rôle de la régulation d’empêcher les dérives de la technologie et de limiter ses usages ?

La régulation n’est en aucune manière à la hauteur des enjeux. Elle donne l’illusion de détenir un pouvoir contraignant sur les grandes entreprises qui imposent ces outils. Sauf qu’en réalité, son but consiste avant tout à ne pas entraver le développement technologique, entendu comme le cours inéluctable de l’Histoire et porteur de gisements intarissables de richesses. Réguler, aujourd’hui, c’est installer quelques garde-fous de pure circonstance, tels les fameux biais de l’IA par exemple, qui ne représentent que des enjeux secondaires. Car une fois la question des biais réglée, ce sera alors la porte ouverte à l’automatisation croissante des affaires humaines. L’éthique, c’est le grand bla-bla de la bonne conscience. Quand les gourous de l’industrie numérique, ou les ingénieurs de l’IA, alertent sur les dangers de systèmes qu’ils ont eux-mêmes créés pour leur propre profit, c’est risible. Qu’ont produit tous ces discours sur l’éthique ces quinze dernières années ? Rien de tangible, sinon l’illusion de témoigner de vigilance aux yeux du monde.

Car, à vrai dire, les termes de la régulation sont mal posés. Toujours selon l’équation avantages/risques. Celle-ci suppose que si l’on se penche sur les prétendus risques, alors ce sera ensuite le meilleur des mondes. La seule équation qui vaille est celle-ci : là où nous avons la main et là où nous n’avons pas la main. Or, avec la prolifération et la sophistication des IA, nous avons de moins en moins la main. Il s’agit là d’une question politico-juridique décisive et qui devrait pleinement nous mobiliser. Il est temps de passer de l’éthique à la morale, c’est-à-dire de travailler à une prise en compte du droit naturel. Soit les principes fondamentaux qui nous animent : la défense et la célébration de la dignité, de l’intégrité et de la liberté humaines, de l’expression de nos facultés, de l’intelligence, et du génie qui est logé en chacun d’entre nous. Autant de valeurs appelées à être mises en péril par les IA génératives. Aujourd’hui, nous vivons sous le règne du droit positif, c’est-à-dire que le droit, tel qu’envisagé par le législateur, ne tient compte que d’une seule perspective : le primat économique.

Vous dénonciez dès 2016, dans l’un de vos précédents ouvrages, ce que vous appeliez « la silicolonisation du monde ». L’IA générative, c’est l’étape d’après du techno-libéralisme venu de la Silicon Valley ?

Absolument. C’est la dernière frontière de l’automatisation sans cesse intensifiée du cours du monde. Ces IA génératives, comme Bing de Microsoft ou Bard de Google, produisent en outre un langage personnalisé, destiné à orienter nos comportements à des fins marchandes. Voit-on le projet de société ? Adosser continuellement notre quotidien au régime privé, tout en aggravant l’usage des écrans ! Quid de la gigantesque consommation énergétique qui découle de ces pratiques ? À cet égard, on ne peut pas affirmer ne plus prendre l’avion, par exemple, et utiliser ChatGPT. Car la conscience ne se divise pas !

Le paradoxe, c’est que les régulateurs et les mondes économique et politique embrassent ce processus d’automatisation alors qu’il porte en lui-même la destruction du tissu social. Par crainte de rater le virage, perçu comme indispensable, de l’IA générative, et sous prétexte que les États-Unis et la Chine s’y sont lancés à pleine vitesse, on est aveugles au fait que quantité de métiers à haute compétence cognitive sont mis en péril. La liste est longue : avocats, comptables, ressources humaines, métiers de la finance, développeurs, traducteurs, journalistes, photographes… Aujourd’hui, on se rassure en se disant que les IA manquent de fiabilité, font des hallucinations, manquent de transparence. Mais demain ? Nous allons vers des super-assistants personnels qui vont assurer un nombre sans cesse croissant de tâches cognitives à notre place.

On peut très bien imaginer que dans quelques années, au nom d’un ratio avantages/inconvénients favorable, notamment dans les déserts médicaux, l’OMS valide le principe qu’en première consultation, des IA remplacent des médecins généralistes en se basant sur des capteurs, notre dossier médical, la reconnaissance faciale etc.

Un ouragan va frapper les métiers à haute compétence cognitive, intellectuelle et créative. Or, ceux-ci sont vecteurs de sociabilité, de reconnaissance de soi, de plaisir à la tâche. Le travail représente le socle de notre vitalité, mais aussi de la paix sociale. Comment peut-on accepter que l’industrie du numérique, guidée par ses seuls intérêts, produise ainsi un tel séisme sur des activités humaines dans ce qu’elles ont de très nobles ?

Aux Etats-Unis, encadrer l’utilisation de l’IA par les studios d’Hollywood et protéger le travail des scénaristes et des acteurs, a été l’une des principales revendications de la grève historique de plus de 100 jours qui vient de se terminer. C’est cette forme de réveil que vous prônez ?

Ce mouvement donne de l’espoir et devrait nous inspirer. Les scénaristes et les acteurs ont perçu les dangers de l’IA générative et ont bien compris que la quête du profit des grandes plateformes comme Netflix ne pouvait aboutir qu’à une précarisation, voire à la disparition de leur métier. Ce fut un acte fort, car vu que la régulation se montre déficiente, les scénaristes ont décidé de faire jurisprudence en mettant sur la table les vrais sujets dont le régulateur n’a pas su se saisir. Et ils ont obtenu gain de cause. Pour ne pas assister passivement à la disparition de métiers à forte implication intellectuelle et créative, je pense que la meilleure stratégie serait de s’unir par corporation et ce, à l’échelle globale.

Hollywood a pavé le chemin de la mobilisation qui doit être menée. En outre, émerge un monde où on ne sait plus distinguer une photo d’actualité d’une production d’une IA. Ce qui ouvre grand la porte à la désinformation et tue le travail des photographes. La guerre Israël/Hamas en est déjà un exemple navrant. Il est temps de saisir – au-delà de notre penchant à l’utilitarisme et d’un court-termisme très coupables – l’étendue des gigantesques conséquences culturelles et civilisationnelles qui s’annoncent du fait de la généralisation des IA génératives. Et cela appelle nécessairement mobilisation et émergence de contre-pouvoirs à toutes les échelles de la société.

En quoi jugez-vous la destruction des métiers par l’IA générative différente des autres vagues de destructions de métiers liées à l’arrivée de nouvelles technologies depuis la révolution industrielle ?

Depuis la révolution industrielle au XVIIIème siècle, il s’est opéré un mouvement progressif de substitution de l’action humaine au profit de la machine. Deux siècles plus tard, au tournant des années 1980, ce processus connut un moment d’acmé lors de la robotisation des entreprises, particulièrement dans l’industrie automobile. Mais c’était généralement des métiers à haute pénibilité qui étaient concernés, ceux qui entraînaient des troubles musculo-squelettiques, des corps broyés, des travailleurs lessivés au moment de prendre leur retraite… On peut donc considérer que dans ces domaines, le processus d’automatisation recouvrait une dimension vertueuse.

Ce qui est à l’œuvre depuis une dizaine d’années et qui est amené à se renforcer à l’avenir, est différent. Les métiers visés sont ceux qui mobilisent nos facultés intellectuelles, pour lesquels il a fallu de longues études avant de les exercer. En outre, ils créent de l’estime de soi, de la reconnaissance par autrui et de la sociabilité. Est assénée la fable de la « complémentarité homme/machine ». La personne qui a inventé cette notion mérite le prix Nobel de la novlangue, car nous sommes arrivés au bout du concept de la destruction créatrice de Schumpeter, selon lequel la technologie créée autant voire davantage d’emplois qu’elle n’en détruit en premier lieu. Cette théorie trouve ses limites avec l’IA générative, car jamais dans l’Histoire une technologie n’a menacé autant d’emplois différents d’un coup.

Ne basculez-vous pas dans la peur de l’IA dite générale, c’est-à-dire capable de tout faire mieux que l’homme ?

L’enjeu qui, actuellement, nous fait face, concerne surtout l’énorme capacité de progression des IA génératives, et donc la puissance de son impact sur le travail, le tissu social et nos capacités intellectuelles et créatives. En cela, il nous revient, en ce moment de bascule, et de haute gravité, de nous demander ce que c’est qu’être humain. Quels sont au juste nos pouvoirs d’action et d’inventivité, à une époque où des technologies sont en mesure de prendre le relais – de façon infiniment plus rapide et prétendument plus fiable – de la quasi-totalité de nos facultés cognitives ? Que nous reste-t-il dans un monde où ce qui nous constitue en propre et, au premier chef, l’usage du langage, est appelé à être toujours plus assuré par des intelligences artificielles ? L’être humain se sublime dans la contrainte et l’effort, mais prendra-t-on encore la peine d’apprendre des langues, de se confronter à l’autre, quand l’IA nous promet de tout nous apporter sur un plateau ? Notre malheur, c’est qu’on est incapables d’avoir une vision des choses au-delà de notre présent immédiat. Or, je vous le dis : le sempiternel primat économique et le court-termisme nous mènent au désert de nous-mêmes.

« Siliconisation de la société par les GAFA: danger (Éric Sadin, philosophe)

« Le danger de La Siliconisation de la société par les GAFA (Éric Sadin, philosophe)

 

 

Le philosophe Éric Sadin,» dénonce la mainmise marchande des GAFA  sur la société et l’individu. (Interview la tribune).

 

Vous dénoncez dans votre ouvrage la « silicolonisation » du monde par les grandes entreprises numériques américaines. Que voulez-vous dire exactement ?

ÉRIC SADIN - Les grandes entreprises de la Silicon Valley, c’est-à-dire les Google, Apple, Amazon, Facebook, Netflix, Uber et consorts, ne sont pas seulement des empires tentaculaires qui engrangent des milliards de dollars de chiffre d’affaires par an. Ces entreprises sont engagées dans ce que je nomme « la conquête intégrale de la vie ». Leurs services sont utilisés quotidiennement par des milliards d’individus. Leur modèle, celui de l’économie de la donnée et des plateformes, vise à capter des données relatives à un nombre sans cesse étendu de nos gestes, entendant coller de façon toujours plus continue à nos existences. Désormais, la Silicon Valley représente l’horizon entrepreneurial et économique de notre temps. Alors, tout le monde veut se l’approprier. Les chercheurs, les cercles de réflexion, les industriels s’y convertissent. Les gouvernements l’envisagent comme la panacée à toutes les difficultés économiques et ne pensent qu’à faire éclore des « Silicon valley locales » partout, grâce aux startups et aux incubateurs. C’est la course à l’innovation, c’est le règne du startuppeur visionnaire et de l’autoentrepreneur libéré. Mais ce qu’il faut saisir, c’est qu’au-delà d’un modèle économique, un modèle civilisationnel est en train de s’instaurer, fondé sur une marchandisation à terme intégrale de la vie, et une organisation algorithmique des sociétés.

Comment ?

Grâce à l’avènement des capteurs de toutes sortes, des objets connectés et de l’intelligence artificielle. Nous vivons l’avènement des objets connectés, qui s’immiscent partout jusque dans nos maisons et nos voitures. Grâce à eux, il est désormais possible de collecter un nombre sans cesse croissant de données portant sur toutes les phases de la vie. Les plateformes qui détiennent ces informations suggèrent en retour quantité de produits en fonction du traitement de ces données. Dans le livre, je prends l’exemple du miroir intelligent de Microsoft, capable d’interpréter l’état de fatigue, les expressions du visage, pour proposer des crèmes réparatrices voire des séjours à la montagne. C’est une manière d’anticiper en permanence, de rétroagir, et d’assister en continu les individus, par la formulation des meilleurs conseils supposés mais qui in fine ne visent qu’à satisfaire de seuls intérêts privés. Nous dépassons le moment de la personnalisation de l’offre pour aller vers une « relation-client ininterrompue ». À l’aide de systèmes interprétant la plus grande variété de nos gestes et qui rétroagissent en temps réel en suggérant des services ou des produits supposés adaptés à chaque instant de notre quotidien. L’enjeu industriel consiste à s’adosser à tous les instants de la vie. Ce dans quoi s’engage particulièrement Google. C’est flagrant dans le champ de la santé. Le projet Calico de Google, c’est la volonté, grâce aux capacités de plateformisation de l’entreprise, d’entrer en relation avec tout le marché pharmaceutique. A terme, Google veut créer, grâce aux capacités exponentielles des logiciels, ses propres solutions thérapeutiques, avec autodiagnostic, en se dotant d’une compétence médicale. L’industrie du numérique opère actuellement une immixtion du régime privé dans la médecine, selon une mesure jamais vue historiquement.

Ne noircissez-vous pas quelque peu le tableau ? Les objets connectés sont loin d’être dans le quotidien de chacun. Et l’homme a toujours la possibilité de ne pas les adopter…

Vous avez raison, les objets connectés commencent seulement à se répandre, mais de façon extrêmement massive et rapide. C’est le cas de la maison connectée, par exemple, qui représente d’ores et déjà un énorme marché en émergence. Et qui fera de l’habitat une machine à témoigner de nos gestes jusqu’aux plus intimes. Il faut prendre très au sérieux la volonté de ces entreprises et des responsables de l’industrie numérique de se positionner sur le plus grand nombre de secteurs possibles. Les investissements dans les objets connectés, dans l’intelligence artificielle, dans la robotique, sont colossaux, à coups de milliards de dollars. Et ce sont toujours ces grandes entreprises de la Silicon Valley qui sont en première ligne. Ce changement civilisationnel se fait d’une manière rapide mais subtile. Regardez Google. Jusqu’à l’an dernier, son coeur de métier était la recherche en ligne, pour vendre de la publicité. Et puis en août 2015, il change de nom pour devenir Alphabet. Ce recentrage acte ses ambitions. D’un coup, le moteur de recherche Google devient un service parmi d’autres, car le vrai business de Google, c’est l’industrie de la vie. Il est dans la cartographie, dans la domotique avec le rachat de Nest, il dépense des sommes énormes dans la recherche sur la voiture autonome, il développe des plateformes éducatives, il s’implique dans la robotique, dans la santé… Et ce n’est pas fini ! C’est un mouvement émergent, mais très puissant.

Quelles autres conséquences civilisationnelles percevez-vous dans l’essor du numérique ?

La quantification par les capteurs est en train de bouleverser le travail. Des systèmes en temps réel pour mesurer la performance des machines et des employés existent déjà. Dans l’industrie, on ne cesse de rechercher une extrême optimisation des cadences de production. L’action humaine est déterminée par des systèmes « intelligents » qui calculent en permanence la « mesure de performance du personnel » et dictent ce qu’il faut faire. Le géant américain de la distribution, Walmart, utilise un logiciel développé par IBM, baptisé Retail Link. Il permet à des robots de dialoguer entre eux. En fonction de la capacité des sous-traitants et de l’état de leurs stocks, ces robots imposent les cadences aux employés. Cela bafoue autant le droit du travail que la dignité humaine.

Il n’y a donc rien à sauver dans ce nouveau monde ?

Je ne nie pas que le numérique offre quantité d’avantages, comme réserver son train en une minute, pouvoir communiquer plus facilement, avoir accès à l’information. Mais nous sommes aveuglés par les bénéfices d’usages et nous ne nous soucions pas assez des conséquences potentiellement dévastatrices, particulièrement la marchandisation à terme intégrale de la vie et le dessaisissement de la décision humaine que vont entraîner les développements sans cesse accélérés de l’intelligence artificielle. Ce sont là des enjeux majeurs de notre temps, qui à mon sens ne font pas suffisamment l’objet de débats et de controverses publiques.

Vous parlez dans le livre de « technolibéralisme ». La silicolonisation du monde, c’est l’étape ultime du capitalisme ?

Tout à fait. Jusqu’à présent, le libéralisme rencontrait de la résistance, car il était difficile de monétiser l’intime. Désormais, la technologie, grâce aux objets connectés, permet de franchir un nouveau seuil dans l’histoire du capitalisme, car il ne reste plus de séquences de vie rétives à une activité marchande. On peut mettre une puce connectée dans un lit et quantifier le sommeil. Ou dans la machine à laver pour lui faire commander automatiquement de la lessive sans que nous décidions de l’acte d’achat. Cela grâce au récent procédé Dash Button d’Amazon, par exemple. Nous allons vers un allégement ou une non-conscience de l’acte d’achat grâce au paiement sans contact ou au procédé de commande automatisée de produits. Le technolibéralisme promu dans la Silicon Valley part de l’idée que Dieu n’a pas parachevé sa création, que l’homme est éminemment faillible et lacunaire, donc que l’avènement des technologies dites « de l’exponentiel » permettra de corriger cette faille. Mais dans les faits, ce sont des startuppeurs à peine sortis de l’adolescence qui créent un biberon connecté, tel Baby Gigl, pour dire aux parents comment nourrir leur bébé. Tout est à l’avenant : corriger nos supposés défauts originels et faire en sorte que des systèmes nous dictent en toute occasion la meilleure décision à prendre. Nous entrons dans l’ère de l’assistanat algorithmique continu. Dont les visées sont quasi exclusivement commerciales.

De quand datez-vous cette volonté de la Silicon Valley de dominer le monde ? Car la baie de San Francisco incarne aussi depuis longtemps des valeurs d’ouverture, de tolérance, de liberté, de progrès social grâce aux nouvelles technologies…

C’est absolument vrai, j’en parle dans mon livre. Historiquement, la Californie porte une tradition contre-culturelle, à l’opposé de l’État fédéral. C’était le cas dans les années 1960 et 1970, mais cet esprit s’est perverti avec le temps. Il y a vingt ans, l’objectif de Google n’était pas de vouloir collecter le plus grand nombre de faits et gestes et de les monétiser. Quand Facebook s’est créé en 2004, il voulait simplement connecter les étudiants d’Harvard entre eux. Mais l’évolution des technologies, l’élargissement des possibles et la position dominante de ces entreprises les ont placées sur la voie de la conquête intégrale de la vie. La seule chose qu’il reste de l’idéologie originelle est l’idée de désintermédier la société. Mais le drame, c’est que cette aspiration légitime, ou non, de désintermédiation a vite été récupérée par l’économie des plateformes.

Cela se retrouve-t-il dans le libertarisme qui est aujourd’hui à la mode dans la Silicon Valley ?

Ce mouvement prospère sur l’idée de permettre à ces entreprises de se soustraire à toutes les règles au nom de la liberté absolue d’innover. Certains veulent même créer une île indépendante et soumise à aucune régulation au large du Pacifique. Quel paradoxe ! Les partisans du libertarisme refusent toute contrainte sur eux-mêmes, tout en créant des services destinés à régir la vie de milliards d’individus. La Silicon Valley, c’est le royaume du cynisme absolu. Le génie de cette idéologie est que, contrairement à la colonisation, la silicolonisation ne se vit pas comme une violence subie. Au contraire, elle est souhaitée par ceux qui s’y soumettent. Le bénéfice d’usage des services de Google, d’Amazon, d’Apple et consorts est si fort que les gens acceptent comme un moindre mal de donner à des entreprises leurs informations intimes et de les laisser instaurer une marchandisation toujours plus expansive de nos quotidiens. La Silicon Valley incarne une forme lumineuse du capitalisme, une mondialisation heureuse, elle se pare de vertus égalitaristes, glorifie le « startuppeur visionnaire », le « collaborateur créatif »… Son schéma économique et culturel devient l’étalon de mesure de la vitalité des pays, l’horizon indépassable de notre temps, alors qu’il vise à gérer des pans de plus en plus étendus de la société, et ce sans notre assentiment. C’est un paradoxe qui devrait nous interroger.

Mais en France et dans de nombreux pays, les dirigeants politiques ne sont pas très technophiles et peinent à penser la révolution numérique. Difficile de croire qu’ils adhéreraient à cette vision du monde…

Ils s’y soumettent sans saisir toute la portée des enjeux à l’oeuvre. En France, les fonds publics poussent au développement des startups, promeuvent la valorisation sociale du startuppeur et de l’autoentrepreneur indépendant qui, en fait, ne l’est pas tant que ça. L’idée que le numérique représente la croissance du futur s’est diffusée partout. Les politiques agissent avec le sentiment d’une urgence, ils ne veulent pas « rater le train » du numérique. Ils foncent la tête baissée sans percevoir l’ampleur des conséquences civilisationnelles. C’est une soumission coupable, à l’image de François Hollande donnant la Légion d’Honneur au président de Withings, qui s’est vendu à Nokia… Le contrat entre Microsoft et l’Éducation nationale relève d’un véritable scandale de la République. Le lobby industrialo-numérique a obtenu une place prépondérante dans un domaine régalien, l’Éducation nationale, sans avoir une quelconque légitimité. On imagine à tort, que la numérisation continue des pratiques éducatives va résoudre le marasme de l’école publique à l’oeuvre depuis une vingtaine d’années. La vérité, c’est qu’il s’agit là d’un renoncement coupable.

Dans votre livre, vous dénoncez une « criminalité en sweat-shirt ». Vraiment ?

Dans le monde merveilleux des startups et de la Silicon Valley, tout est supposé être « hypercool ». Les modèles managériaux sont dits horizontaux, il y a des canapés et des tables de ping-pong dans les entreprises, le café à volonté, tout le monde se tutoie, des sushis bio sont offerts, le PDG est en tee-shirt et baskets et certains employés bénéficient de temps pour mener leurs propres recherches. Une fois de plus, Google est l’incarnation de cette philosophie. Mais c’est une façade. La pression horaire est très forte dans les startups, qui demandent aux employés de travailler bien au-delà du raisonnable. La startup est le nouveau mythe de notre temps. Les employés vivent finalement dans des conditions précaires, et les actions qui leur sont offertes ont une valeur hypothétique, vu que neuf startups sur dix échouent au bout de quelques années.

Mais ce n’est pas illégal…

Il serait tout de même temps d’aller voir ce qu’il se passe dans les startups. Quand on dépasse le temps de travail réglementaire de manière si éhontée, on n’est pas raccord avec la loi. Il faudrait examiner les conventions collectives, mais dans le monde merveilleux de la startup où tout le monde est copain, la convention collective est un gros mot car tout le monde travaille pour l’intérêt supérieur de l’innovation ! En outre, les Gafa et consorts ont aussi des armées d’avocats, de lobbyistes et de conseils qui organisent des montages savants leur permettant de se soustraire au fisc. Oui, les patrons de cette industrie sont des criminels en col blanc. Ils méprisent le bien commun, façonnent la société selon leurs fantasmes, avec la seule volonté de s’enrichir, en se foutant totalement tous les principes qui nous constituent.

La France et l’Europe se saisissent aujourd’hui d’enjeux comme la protection des données personnelles et dénoncent les pratiques fiscales et anti-concurrentielles de certains géants du numérique. Est-ce un début de réaction ?

On suppose qu’une fois qu’on se soucie de la protection des données, notre rapport au monde numérique est maîtrisé. Que veut dire protéger les données ? C’est établir un contrat entre les entreprises et les individus, favoriser un assentiment éclairé de la part des utilisateurs, et que l’entreprise s’engage à les sécuriser. Ce qu’on ne voit pas, c’est que plus il y aura protection des données, plus il y aura développement de l’économie de la donnée et des plateformes qui en tirent profit. Plus il y aura confiance dans l’économie numérique, plus ces plateformes prendront le pouvoir sur nos vies. C’est exactement ce que promet Günther H. Oettinger, le commissaire européen pour l’économie et la société numérique. Nous sommes tous d’accord de nous soucier de notre vie privée, mais plus cela sera encadré, plus l’industrie de la vie pourra prendre son essor. Ce dont il faut se soucier, ce n’est pas tant de protection des données personnelles – même si cela renvoie à des enjeux très importants, notamment en termes de surveillance par les États -, mais c’est de savoir si nous voulons entrer, ou pas, dans cette civilisation de marchandisation intégrale de la vie et d’organisation algorithmique de la société.

Que proposez-vous, alors ?

J’appelle déjà au refus d’achat d’objets connectés. En tout cas, ceux qui violent l’intégrité humaine. Si nous ne faisons rien, alors nous verrons émerger dans les dix ans à venir une industrie du numérique qui collera sans cesse à nos vies. Voulons-nous être continuellement assistés et bénéficier d’un supposé confort continu dans tous les pans de nos quotidiens ? A contrario, nous pouvons nous mobiliser, dire « trop c’est trop ». Nous devons affirmer qu’il y a des choses que nous ne voulons pas parce que cela porte atteinte à notre dignité, parce que cela transforme l’être humain en un objet strictement marchand, et parce que cela viole certains de nos principes fondamentaux : le libre arbitre, notre autonomie de jugement et notre droit à agir selon notre conscience.

Il faut se poser la question : dans quelle société voulons-nous vivre ? Il faut en finir avec la fascination technologique, arrêter de faire la queue des nuits entières dans le froid devant l’Apple Store par exemple, comme des idiots, et entrer dans l’âge de la maturité individuelle et collective. Il est non seulement grand temps, mais cela relève, à mon sens, d’une urgence civilisationnelle.

Eric Sadin est l’auteur de La Silicolonisation du monde – L’Irrésistible expansion du libéralisme numérique. Éditions L’Échappée, 2016, 291 pages, 17 euros.

« Le danger de La Siliconisation de la société par les GAFA (Éric Sadin, philosophe)

 

Le philosophe Éric Sadin,» dénonce la mainmise marchande des GAFA  sur la société et l’individu. (Interview la tribune).

 

Vous dénoncez dans votre ouvrage la « silicolonisation » du monde par les grandes entreprises numériques américaines. Que voulez-vous dire exactement ?

ÉRIC SADIN - Les grandes entreprises de la Silicon Valley, c’est-à-dire les Google, Apple, Amazon, Facebook, Netflix, Uber et consorts, ne sont pas seulement des empires tentaculaires qui engrangent des milliards de dollars de chiffre d’affaires par an. Ces entreprises sont engagées dans ce que je nomme « la conquête intégrale de la vie ». Leurs services sont utilisés quotidiennement par des milliards d’individus. Leur modèle, celui de l’économie de la donnée et des plateformes, vise à capter des données relatives à un nombre sans cesse étendu de nos gestes, entendant coller de façon toujours plus continue à nos existences. Désormais, la Silicon Valley représente l’horizon entrepreneurial et économique de notre temps. Alors, tout le monde veut se l’approprier. Les chercheurs, les cercles de réflexion, les industriels s’y convertissent. Les gouvernements l’envisagent comme la panacée à toutes les difficultés économiques et ne pensent qu’à faire éclore des « Silicon valley locales » partout, grâce aux startups et aux incubateurs. C’est la course à l’innovation, c’est le règne du startuppeur visionnaire et de l’autoentrepreneur libéré. Mais ce qu’il faut saisir, c’est qu’au-delà d’un modèle économique, un modèle civilisationnel est en train de s’instaurer, fondé sur une marchandisation à terme intégrale de la vie, et une organisation algorithmique des sociétés.

Comment ?

Grâce à l’avènement des capteurs de toutes sortes, des objets connectés et de l’intelligence artificielle. Nous vivons l’avènement des objets connectés, qui s’immiscent partout jusque dans nos maisons et nos voitures. Grâce à eux, il est désormais possible de collecter un nombre sans cesse croissant de données portant sur toutes les phases de la vie. Les plateformes qui détiennent ces informations suggèrent en retour quantité de produits en fonction du traitement de ces données. Dans le livre, je prends l’exemple du miroir intelligent de Microsoft, capable d’interpréter l’état de fatigue, les expressions du visage, pour proposer des crèmes réparatrices voire des séjours à la montagne. C’est une manière d’anticiper en permanence, de rétroagir, et d’assister en continu les individus, par la formulation des meilleurs conseils supposés mais qui in fine ne visent qu’à satisfaire de seuls intérêts privés. Nous dépassons le moment de la personnalisation de l’offre pour aller vers une « relation-client ininterrompue ». À l’aide de systèmes interprétant la plus grande variété de nos gestes et qui rétroagissent en temps réel en suggérant des services ou des produits supposés adaptés à chaque instant de notre quotidien. L’enjeu industriel consiste à s’adosser à tous les instants de la vie. Ce dans quoi s’engage particulièrement Google. C’est flagrant dans le champ de la santé. Le projet Calico de Google, c’est la volonté, grâce aux capacités de plateformisation de l’entreprise, d’entrer en relation avec tout le marché pharmaceutique. A terme, Google veut créer, grâce aux capacités exponentielles des logiciels, ses propres solutions thérapeutiques, avec autodiagnostic, en se dotant d’une compétence médicale. L’industrie du numérique opère actuellement une immixtion du régime privé dans la médecine, selon une mesure jamais vue historiquement.

Ne noircissez-vous pas quelque peu le tableau ? Les objets connectés sont loin d’être dans le quotidien de chacun. Et l’homme a toujours la possibilité de ne pas les adopter…

Vous avez raison, les objets connectés commencent seulement à se répandre, mais de façon extrêmement massive et rapide. C’est le cas de la maison connectée, par exemple, qui représente d’ores et déjà un énorme marché en émergence. Et qui fera de l’habitat une machine à témoigner de nos gestes jusqu’aux plus intimes. Il faut prendre très au sérieux la volonté de ces entreprises et des responsables de l’industrie numérique de se positionner sur le plus grand nombre de secteurs possibles. Les investissements dans les objets connectés, dans l’intelligence artificielle, dans la robotique, sont colossaux, à coups de milliards de dollars. Et ce sont toujours ces grandes entreprises de la Silicon Valley qui sont en première ligne. Ce changement civilisationnel se fait d’une manière rapide mais subtile. Regardez Google. Jusqu’à l’an dernier, son coeur de métier était la recherche en ligne, pour vendre de la publicité. Et puis en août 2015, il change de nom pour devenir Alphabet. Ce recentrage acte ses ambitions. D’un coup, le moteur de recherche Google devient un service parmi d’autres, car le vrai business de Google, c’est l’industrie de la vie. Il est dans la cartographie, dans la domotique avec le rachat de Nest, il dépense des sommes énormes dans la recherche sur la voiture autonome, il développe des plateformes éducatives, il s’implique dans la robotique, dans la santé… Et ce n’est pas fini ! C’est un mouvement émergent, mais très puissant.

Quelles autres conséquences civilisationnelles percevez-vous dans l’essor du numérique ?

La quantification par les capteurs est en train de bouleverser le travail. Des systèmes en temps réel pour mesurer la performance des machines et des employés existent déjà. Dans l’industrie, on ne cesse de rechercher une extrême optimisation des cadences de production. L’action humaine est déterminée par des systèmes « intelligents » qui calculent en permanence la « mesure de performance du personnel » et dictent ce qu’il faut faire. Le géant américain de la distribution, Walmart, utilise un logiciel développé par IBM, baptisé Retail Link. Il permet à des robots de dialoguer entre eux. En fonction de la capacité des sous-traitants et de l’état de leurs stocks, ces robots imposent les cadences aux employés. Cela bafoue autant le droit du travail que la dignité humaine.

Il n’y a donc rien à sauver dans ce nouveau monde ?

Je ne nie pas que le numérique offre quantité d’avantages, comme réserver son train en une minute, pouvoir communiquer plus facilement, avoir accès à l’information. Mais nous sommes aveuglés par les bénéfices d’usages et nous ne nous soucions pas assez des conséquences potentiellement dévastatrices, particulièrement la marchandisation à terme intégrale de la vie et le dessaisissement de la décision humaine que vont entraîner les développements sans cesse accélérés de l’intelligence artificielle. Ce sont là des enjeux majeurs de notre temps, qui à mon sens ne font pas suffisamment l’objet de débats et de controverses publiques.

Vous parlez dans le livre de « technolibéralisme ». La silicolonisation du monde, c’est l’étape ultime du capitalisme ?

Tout à fait. Jusqu’à présent, le libéralisme rencontrait de la résistance, car il était difficile de monétiser l’intime. Désormais, la technologie, grâce aux objets connectés, permet de franchir un nouveau seuil dans l’histoire du capitalisme, car il ne reste plus de séquences de vie rétives à une activité marchande. On peut mettre une puce connectée dans un lit et quantifier le sommeil. Ou dans la machine à laver pour lui faire commander automatiquement de la lessive sans que nous décidions de l’acte d’achat. Cela grâce au récent procédé Dash Button d’Amazon, par exemple. Nous allons vers un allégement ou une non-conscience de l’acte d’achat grâce au paiement sans contact ou au procédé de commande automatisée de produits. Le technolibéralisme promu dans la Silicon Valley part de l’idée que Dieu n’a pas parachevé sa création, que l’homme est éminemment faillible et lacunaire, donc que l’avènement des technologies dites « de l’exponentiel » permettra de corriger cette faille. Mais dans les faits, ce sont des startuppeurs à peine sortis de l’adolescence qui créent un biberon connecté, tel Baby Gigl, pour dire aux parents comment nourrir leur bébé. Tout est à l’avenant : corriger nos supposés défauts originels et faire en sorte que des systèmes nous dictent en toute occasion la meilleure décision à prendre. Nous entrons dans l’ère de l’assistanat algorithmique continu. Dont les visées sont quasi exclusivement commerciales.

De quand datez-vous cette volonté de la Silicon Valley de dominer le monde ? Car la baie de San Francisco incarne aussi depuis longtemps des valeurs d’ouverture, de tolérance, de liberté, de progrès social grâce aux nouvelles technologies…

C’est absolument vrai, j’en parle dans mon livre. Historiquement, la Californie porte une tradition contre-culturelle, à l’opposé de l’État fédéral. C’était le cas dans les années 1960 et 1970, mais cet esprit s’est perverti avec le temps. Il y a vingt ans, l’objectif de Google n’était pas de vouloir collecter le plus grand nombre de faits et gestes et de les monétiser. Quand Facebook s’est créé en 2004, il voulait simplement connecter les étudiants d’Harvard entre eux. Mais l’évolution des technologies, l’élargissement des possibles et la position dominante de ces entreprises les ont placées sur la voie de la conquête intégrale de la vie. La seule chose qu’il reste de l’idéologie originelle est l’idée de désintermédier la société. Mais le drame, c’est que cette aspiration légitime, ou non, de désintermédiation a vite été récupérée par l’économie des plateformes.

Cela se retrouve-t-il dans le libertarisme qui est aujourd’hui à la mode dans la Silicon Valley ?

Ce mouvement prospère sur l’idée de permettre à ces entreprises de se soustraire à toutes les règles au nom de la liberté absolue d’innover. Certains veulent même créer une île indépendante et soumise à aucune régulation au large du Pacifique. Quel paradoxe ! Les partisans du libertarisme refusent toute contrainte sur eux-mêmes, tout en créant des services destinés à régir la vie de milliards d’individus. La Silicon Valley, c’est le royaume du cynisme absolu. Le génie de cette idéologie est que, contrairement à la colonisation, la silicolonisation ne se vit pas comme une violence subie. Au contraire, elle est souhaitée par ceux qui s’y soumettent. Le bénéfice d’usage des services de Google, d’Amazon, d’Apple et consorts est si fort que les gens acceptent comme un moindre mal de donner à des entreprises leurs informations intimes et de les laisser instaurer une marchandisation toujours plus expansive de nos quotidiens. La Silicon Valley incarne une forme lumineuse du capitalisme, une mondialisation heureuse, elle se pare de vertus égalitaristes, glorifie le « startuppeur visionnaire », le « collaborateur créatif »… Son schéma économique et culturel devient l’étalon de mesure de la vitalité des pays, l’horizon indépassable de notre temps, alors qu’il vise à gérer des pans de plus en plus étendus de la société, et ce sans notre assentiment. C’est un paradoxe qui devrait nous interroger.

Mais en France et dans de nombreux pays, les dirigeants politiques ne sont pas très technophiles et peinent à penser la révolution numérique. Difficile de croire qu’ils adhéreraient à cette vision du monde…

Ils s’y soumettent sans saisir toute la portée des enjeux à l’oeuvre. En France, les fonds publics poussent au développement des startups, promeuvent la valorisation sociale du startuppeur et de l’autoentrepreneur indépendant qui, en fait, ne l’est pas tant que ça. L’idée que le numérique représente la croissance du futur s’est diffusée partout. Les politiques agissent avec le sentiment d’une urgence, ils ne veulent pas « rater le train » du numérique. Ils foncent la tête baissée sans percevoir l’ampleur des conséquences civilisationnelles. C’est une soumission coupable, à l’image de François Hollande donnant la Légion d’Honneur au président de Withings, qui s’est vendu à Nokia… Le contrat entre Microsoft et l’Éducation nationale relève d’un véritable scandale de la République. Le lobby industrialo-numérique a obtenu une place prépondérante dans un domaine régalien, l’Éducation nationale, sans avoir une quelconque légitimité. On imagine à tort, que la numérisation continue des pratiques éducatives va résoudre le marasme de l’école publique à l’oeuvre depuis une vingtaine d’années. La vérité, c’est qu’il s’agit là d’un renoncement coupable.

Dans votre livre, vous dénoncez une « criminalité en sweat-shirt ». Vraiment ?

Dans le monde merveilleux des startups et de la Silicon Valley, tout est supposé être « hypercool ». Les modèles managériaux sont dits horizontaux, il y a des canapés et des tables de ping-pong dans les entreprises, le café à volonté, tout le monde se tutoie, des sushis bio sont offerts, le PDG est en tee-shirt et baskets et certains employés bénéficient de temps pour mener leurs propres recherches. Une fois de plus, Google est l’incarnation de cette philosophie. Mais c’est une façade. La pression horaire est très forte dans les startups, qui demandent aux employés de travailler bien au-delà du raisonnable. La startup est le nouveau mythe de notre temps. Les employés vivent finalement dans des conditions précaires, et les actions qui leur sont offertes ont une valeur hypothétique, vu que neuf startups sur dix échouent au bout de quelques années.

Mais ce n’est pas illégal…

Il serait tout de même temps d’aller voir ce qu’il se passe dans les startups. Quand on dépasse le temps de travail réglementaire de manière si éhontée, on n’est pas raccord avec la loi. Il faudrait examiner les conventions collectives, mais dans le monde merveilleux de la startup où tout le monde est copain, la convention collective est un gros mot car tout le monde travaille pour l’intérêt supérieur de l’innovation ! En outre, les Gafa et consorts ont aussi des armées d’avocats, de lobbyistes et de conseils qui organisent des montages savants leur permettant de se soustraire au fisc. Oui, les patrons de cette industrie sont des criminels en col blanc. Ils méprisent le bien commun, façonnent la société selon leurs fantasmes, avec la seule volonté de s’enrichir, en se foutant totalement tous les principes qui nous constituent.

La France et l’Europe se saisissent aujourd’hui d’enjeux comme la protection des données personnelles et dénoncent les pratiques fiscales et anti-concurrentielles de certains géants du numérique. Est-ce un début de réaction ?

On suppose qu’une fois qu’on se soucie de la protection des données, notre rapport au monde numérique est maîtrisé. Que veut dire protéger les données ? C’est établir un contrat entre les entreprises et les individus, favoriser un assentiment éclairé de la part des utilisateurs, et que l’entreprise s’engage à les sécuriser. Ce qu’on ne voit pas, c’est que plus il y aura protection des données, plus il y aura développement de l’économie de la donnée et des plateformes qui en tirent profit. Plus il y aura confiance dans l’économie numérique, plus ces plateformes prendront le pouvoir sur nos vies. C’est exactement ce que promet Günther H. Oettinger, le commissaire européen pour l’économie et la société numérique. Nous sommes tous d’accord de nous soucier de notre vie privée, mais plus cela sera encadré, plus l’industrie de la vie pourra prendre son essor. Ce dont il faut se soucier, ce n’est pas tant de protection des données personnelles – même si cela renvoie à des enjeux très importants, notamment en termes de surveillance par les États -, mais c’est de savoir si nous voulons entrer, ou pas, dans cette civilisation de marchandisation intégrale de la vie et d’organisation algorithmique de la société.

Que proposez-vous, alors ?

J’appelle déjà au refus d’achat d’objets connectés. En tout cas, ceux qui violent l’intégrité humaine. Si nous ne faisons rien, alors nous verrons émerger dans les dix ans à venir une industrie du numérique qui collera sans cesse à nos vies. Voulons-nous être continuellement assistés et bénéficier d’un supposé confort continu dans tous les pans de nos quotidiens ? A contrario, nous pouvons nous mobiliser, dire « trop c’est trop ». Nous devons affirmer qu’il y a des choses que nous ne voulons pas parce que cela porte atteinte à notre dignité, parce que cela transforme l’être humain en un objet strictement marchand, et parce que cela viole certains de nos principes fondamentaux : le libre arbitre, notre autonomie de jugement et notre droit à agir selon notre conscience.

Il faut se poser la question : dans quelle société voulons-nous vivre ? Il faut en finir avec la fascination technologique, arrêter de faire la queue des nuits entières dans le froid devant l’Apple Store par exemple, comme des idiots, et entrer dans l’âge de la maturité individuelle et collective. Il est non seulement grand temps, mais cela relève, à mon sens, d’une urgence civilisationnelle.

Eric Sadin est l’auteur de La Silicolonisation du monde – L’Irrésistible expansion du libéralisme numérique. Éditions L’Échappée, 2016, 291 pages, 17 euros.