Archive pour le Tag 'quelle'

Page 10 sur 14

Quelle souveraineté économique ?

Quelle souveraineté économique ?

L’affaire Carrefour-Couche-Tard risque de réveiller les démons du populisme ainsi que ceux du simplisme et du nationalisme économiques, écrivent, dans une tribune au « Monde, les économistes Emmanuel Combe et Sarah Guillou. Mais selon eux, en matière d’économie, la souveraineté ne consiste pas au repli sur soi.

Tribune. L’affaire Carrefour-Couche-Tard illustre les ambiguïtés d’une politique de souveraineté économique dont la doctrine et les contours n’ont jamais été clairement explicités. Ce faisant, elles l’exposent à plusieurs démons.

Le premier d’entre eux, c’est le démon du populisme. La souveraineté économique est actuellement très en vogue dans l’opinion, surtout lorsqu’on agite le spectre d’une hypothétique menace sur notre « sécurité alimentaire ». Elle rassure l’électeur, en mal de certitudes sur la provenance des biens qu’il consomme. Mais elle le conforte également dans l’idée trop simple selon laquelle la mondialisation serait la cause première de tous nos maux, en étant d’abord source de dépendance et de contraintes.

La pandémie de Covid-19 a été à cet égard propice à l’usage politique de cette notion, en ravivant un discours sur notre dépendance envers certains produits « essentiels ». Nombre de Français ont en effet conclu que la pénurie observée de masques ou de respirateurs résultait de l’absence de production sur le territoire national, ce qui est erroné. En réalité, la pénurie vient principalement d’un défaut d’ajustement de l’offre mondiale à la demande ; elle ne résulte pas de la localisation de la production, ni de la distance entre les lieux de consommation et de production, ni encore de ce que le propriétaire de l’entreprise soit français ou non.

Le « mythe du potager »

Le second démon, c’est celui du simplisme économique. Le risque est ici de réhabiliter les vieilles thèses sur les vertus supposées de l’autarcie et du mercantilisme. L’autarcie repose sur le « mythe du potager » selon lequel tout produire chez soi rendrait indépendant. Paradoxalement, non : si vous faites tout vous-même, vous ne pouvez plus compter que sur vous-même, ce qui peut être problématique si le pays connaît un choc. Diversifier ses approvisionnements à l’étranger peut être un choix plus sécurisant.


Par ailleurs, tout faire soi-même est impossible aujourd’hui et entraînerait un coût exorbitant pour le pays. Quant au mercantilisme, qui stigmatise les importations, il repose sur un contresens économique majeur. Importer n’est pas en soi un problème et présente même de multiples avantages : cela permet par exemple de tirer parti des chaînes de valeur mondiales. De même, importer conditionne directement les performances à l’exportation de nos entreprises. Acheter à l’étranger permet enfin d’exercer le privilège de l’acheteur, c’est-à-dire celui de pouvoir choisir ses fournisseurs.

«Quelle vague verte?» ( Marc Grivel, métropole de Lyon)

 «Quelle vague verte?» ( Marc Grivel, métropole de Lyon)

Marc Grivel considère dans l’Opinion que la victoire des écolos est une illusion d’optique.

Les élections municipales et métropolitaines de 2020 ont conduit, selon de nombreux commentateurs, à une « vague verte historique » avec la victoire de listes écologistes ou à forte dominante écologiste, notamment sur la métropole de Lyon. C’est pourtant une illusion d’optique : la réalité politique profonde de nos territoires est plus nuancée. Nous pouvons et devons aujourd’hui tirer quelques enseignements de ces élections.

La « vague verte » engloutie par le raz-de-marée de l’abstention

Le contexte sanitaire, social et politique, l’incertitude chronique sur la tenue du second tour des élections dans un entre-deux tours dilué dans le confinement, tout autant que la profonde crise de confiance entre les citoyens et le monde politique déjà existante ont conduit à un « raz-de-marée » de l’abstention, alors que, jusqu’ici, les élections municipales résistaient et constituaient le rempart de la démocratie de proximité.

Dans l’agglomération de Lyon, l’illisibilité des élections métropolitaines, la méconnaissance des enjeux, d’incompréhensibles alliances de second tour et l’absence de double scrutin dans près de deux tiers des communes (dont les conseils municipaux avaient été élus dès le 1er tour), ont encore accentué ce phénomène de désintérêt et de défiance.

Des résultats révélateurs d’une fracture territoriale qui s’approfondit

Au-delà même de la situation inédite dans lequel s’est inscrit ce scrutin, on constate que les résultats électoraux sont bien plus contrastés que la lecture simpliste qu’en ont donnée beaucoup de médias : la « poussée verte » est issue des centres urbains développés alors que, traduisant une vraie biodiversité électorale, la situation est bien différente dans les territoires périphériques et, au-delà, dans les territoires ruraux.

Il suffit d’observer les résultats des élections sénatoriales qui découlent de ces élections locales : la majorité de la droite et du centre droit en sort élargie, il n’y a pas eu de déferlante d’élus verts dans la Chambre haute.

Ces élections locales sont en réalité révélatrices de l’accentuation de la fracture territoriale avec un creusement des disparités démographiques et socio-économiques entre les grandes villes et les territoires périurbains ainsi que les villes moyennes et les territoires ruraux.

Un vote écolo conjoncturel porté par un changement structurel de génération

Dans les centres urbains et dans ce contexte d’abstention, le vote militant soutenant les listes écologistes, ainsi que le vote sur la seule préoccupation environnementale (sociétale, transversale, dont personne n’est propriétaire), ont pesé lourd. Il faut dire que l’inertie du monde politique, sur au moins trois décennies, a donné progressivement le sentiment aux Français que les problèmes écologiques n’étaient pas pris à bras-le-corps.

Nos concitoyens, notamment les plus jeunes, veulent que les choses aillent plus loin, plus vite et pensent – souvent à juste titre – qu’il est urgent d’agir. La « vague » électorale écolo, conjoncturelle par définition, révèle « en grand » l’arrivée sur la scène politique d’une génération nouvelle, qui vient amplifier le dégagisme amorcé en 2017. Elle va durablement imprimer sa marque dans la politique française et, en conséquence, la nature et le sens de nos engagements politiques individuels et collectifs.

Pour autant, la base politique n’est pas solide, le béton est encore frais. Ces élections confirment l’affaiblissement des partis de la gauche de gouvernement traditionnelle qui a permis à EELV, en bien des endroits, de préempter la position de clef de voûte de listes de gauche plurielle portées par ce changement générationnel fédérant des électeurs plus jeunes, plus militants, plus mobilisables.

Une métropole fragilisée par des dysfonctionnements programmés

Sur la métropole de Lyon, le nouveau mode de scrutin sur la base de 14 circonscriptions (dont le découpage pose encore question), avec son système de prime majoritaire, a en outre bénéficié à plein à EELV. Les résultats auraient été bien différents si le mode électoral était moins impropre à représenter la réalité politique des 59 communes.

Le conseil métropolitain issu de ces élections, et sa majorité, ne sont plus à l’image des territoires et de leurs habitants. Comment pourrait-il en être autrement quand 35 maires sur 59 n’en sont pas membres ?

Un phénomène subséquent a provoqué le déracinement préoccupant du conseil de la métropole : les associations ont remplacé les communes. À la faveur des élections de 2020 sont en effet entrés en masse dans l’hémicycle des militants associatifs, présents en force sur les listes écologistes, qui défendaient jusqu’ici des intérêts sectoriels, aussi louables et indispensables soient-ils. Or on ne gère pas une collectivité territoriale comme une communauté d’associations !

La légitimité d’un maire et celle d’un président d’association sont loin d’être les mêmes pour les citoyens. Alors qu’une association gère une cause, un intérêt spécifique, un maire doit gérer de nombreuses causes et intérêts de toute nature, pour des habitants très divers, et son arbitrage politique au quotidien se nomme l’intérêt général.

Espérons que la majorité métropolitaine saura s’ancrer dans la réalité et la diversité territoriales de la métropole et en tirer des décisions pragmatiques concertées. Dans le cas contraire, ce basculement de la métropole des communes vers les associations va conduire, amplifié par des arbitrages verticaux s’exonérant de réelles concertations, à des dysfonctionnements institutionnels majeurs préjudiciables aux orientations des politiques publiques et aux investissements. Au regard des enjeux pour la deuxième métropole de France et son 1,4 million d’habitants, les six ans à venir sont donc interrogés. Ils ne peuvent pas et ne doivent pas être six ans perdus.

Marc Grivel est conseiller de la métropole de Lyon, président du groupe Synergies métropole, maire de Saint-Cyr-au-Mont-d’Or de 2008 à 2020 et 1er vice-président de la Métropole de Lyon de 2017 à 2020.

« Quelle régulation de la pub ».

« Quelle régulation de la pub ».

Une tribune intéressante d’Arnaud Tomasi  (La Poste) sur la problématique de la régulation publicitaire évidemment qui n’est pas dénuée de préoccupations corpos .

 

 

 « Le débat sur la publicité est extraordinairement complexe car il questionne, en creux, notre modèle de consommation et les moyens à mettre en œuvre pour réguler la promotion des produits et services »

La publicité est de plus en plus considérée par certains comme intrusive et de nombreux acteurs de la société civile appellent à une régulation renforcée du secteur de la communication et des médias. Aussi, se succèdent, depuis plusieurs mois, interpellations et débats sur le rôle de la publicité dans la transition écologique. Le rapport Big Corpo, le rapport de mission sur la publicité et la transition écologique de Thierry Libaert et Géraud Guibert ou les propositions de la convention citoyenne : tous ces textes interrogent le rôle de la communication et sa place dans la transition écologique.

Le débat est extraordinairement complexe car il questionne, en creux, notre modèle de consommation et les moyens à mettre en œuvre pour réguler la promotion des produits et services. Mais il a l’avantage de pousser les acteurs économiques à accélérer des changements attendus dans leurs pratiques.

Cela fait des années que le secteur de la communication intègre cette responsabilité et nombre de marques, d’entreprises, de collectivités territoriales, cherchent à améliorer l’efficacité environnementale de leurs outils et campagnes. Et nous avons une responsabilité collective à transformer durablement nos pratiques et à inventer des offres plus sobres pour y contribuer.

Entreprise contributive par nature, au sein d’un groupe extrêmement volontariste sur ses engagements environnementaux, la Poste a souhaité apporter au marché une connaissance scientifique des impacts écologiques des supports de communication. Nous avons confié au cabinet indépendant Quantis la mission de réaliser une Analyse du cycle de vie (ACV) pour comparer des usages de communication papier et numérique.

S’engager dans une démarche de responsabilité environnementale, c’est accepter la complexité. C’est ne pas se satisfaire des idées reçues

 

Empreinte environnementale. Parce qu’on améliore bien que ce que l’on mesure et parce que la Poste propose tout à la fois des solutions papier et digitales, il nous semblait urgent de mesurer ces impacts et d’analyser ce que nous pouvions améliorer dans nos offres pour diminuer leur empreinte environnementale.

Les résultats viennent d’être publiés et bousculent bien des idées reçues. Pour quatre sur cinq des scénarios étudiés, les supports papier sont globalement moins impactants sur l’environnement (sur seize indicateurs étudiés allant du changement climatique, l’utilisation des ressources fossiles, des ressources minérales, des sols, à la santé humaine).

Cette étude est une première. Nous pouvons enfin orienter les choix média de nos clients en connaissance de cause. Leur permettre par nos conseils de privilégier un support, un format, une création, au regard de son efficacité écologique réelle. Si nous le voulons vraiment, nous savons, désormais, allier performance environnementale et performance marketing et faire de nos métiers un véritable levier d’amélioration continue.

Ces données collectées, objectivées, nous permettent de défendre la complémentarité des deux supports papier et digital au service d’une communication plus responsable. Nous avons, pour cela et grâce à elles, conçu un outil d’évaluation (MediaPositiveImpact) au service de nos clients professionnels.

S’engager dans une démarche de responsabilité environnementale, c’est accepter la complexité. C’est ne pas se satisfaire des idées reçues. C’est partager les données qui nous permettront, ensemble, de proposer aux marques un marketing relationnel réellement utile aux citoyens consommateurs et donc à nos clients !

Arnaud Tomasi est directeur de la business unit Média de La Poste.

 

Nouvelles technologies-Quelle régulation de l’intelligence artificielle

Nouvelles technologies-Quelle  régulation de l’intelligence artificielle

 

Florian Ingen-Housz, partner au sein d’Altermind, et Victor Storchan, ingénieur en IA dans l’industrie financière, explique l’enjeu de la régulation de l’intelligence artificielle (IA) dans la Tribune

 

 

En février dernier, la Commission européenne a publié son livre blanc sur la régulation des applications de l’Intelligence Artificielle (IA). Plutôt que de légiférer unilatéralement sur ce sujet, la Commission a choisi, de manière novatrice, une approche consultative et participative en incitant l’ensemble des parties prenantes à cet écosystème à participer à la discussion. Cette approche doit être encouragée, approfondie et accélérée pour ajuster l’état du droit à un état de l’art technologique qui ne cesse de faire surgir des débats juridiques et normatifs inédits. Cette approche est aussi le seul moyen de faire émerger, dans la décennie qui vient, une véritable vision européenne de la Tech, tout à la fois pro-business et respectueuse des libertés individuelles.

Un défi majeur pour les régulateurs

L’IA constitue en effet un défi majeur pour les régulateurs. La vitesse prodigieuse des avancées technologiques doit inviter ces derniers à co-construire la norme avec un écosystème plus large qu’ils n’en ont l’habitude, plutôt que d’imposer celle-ci « par le haut ». Tout comme l’ont montré les débats sur la bioéthique depuis les années 1970, la régulation technologique est avant tout un choix de société et par conséquent un effort continu. La question se pose néanmoins avec une acuité particulière pour le déploiement de l’IA, compte tenu de l’ambiguïté de ses définitions, de sa nature stochastique et de l’opacité des multiples modèles sur lesquels elle est bâtie. Cette opacité est aggravée par l’hypercroissance de l’écosystème (50% de plus de papiers soumis à NeurIPS – une des conférences majeures de la discipline - en 2019 par rapport à l’année précédente), qui rend immédiatement obsolètes des savoirs difficilement acquis par des régulateurs parfois mal-équipés sur le plan technique. Si la régulation est évidemment primordiale pour permettre l’adoption, créer du consensus et de la confiance envers cette technologie, son élaboration devra donc être suffisamment (i) spécifique dans son champ d’application pour être « implémentable », (ii) inclusive et ouverte dans sa démarche et (iii) sélective dans ses priorités et son séquencement.

Il faudra donc, dans un premier temps, d’abord s’assurer de la juste définition de l’objet ciblé. Ce besoin de spécificité dans un domaine aux frontières floues soulève un premier défi : celui de la sémantique. Le concept d’IA est imprécis, même pour les experts. Contrairement aux précédentes vagues de disruption technologique, que ce soit la machine à vapeur, l’électricité, la chimie ou même les premiers programmes informatiques, les contours de l’IA sont moins tangibles. Ainsi, en 2013, l’Etat du Nevada a dû ainsi revoir sa définition de l’IA pour les véhicules autonomes car celle-ci englobait aussi certains modèles de voitures sophistiquées avec des fonctionnalités de contrôle avancées. La définition de ce qu’est un robot pour l’Union européenne n’est pas non plus satisfaisante. Contrairement à ce que semble indiquer cette dernière, les robots n’acquièrent en effet pas de capacité d’autonomie uniquement grâce aux données et aux capteurs dont ils disposeraient. Comme le montrent les travaux de Bryan Casey et Mark A. Lemley (Stanford Law School) lorsque cela est possible, une manière de contourner le problème sémantique est de s’assurer que la régulation cerne en priorité les comportements des individus et non pas les techniques, les types d’algorithmes ou les robots.

 

Faire coopérer des acteurs très divers

L’efficacité de la régulation pour l’IA se mesurera aussi à sa capacité à faire coopérer des acteurs très divers. Les usages de cette technologie doivent être appréhendés non pas in-vitro mais au sein d’écosystèmes technico-sociaux complexes où elle est déployée. Ainsi cette coopération doit à la fois s’effectuer horizontalement et verticalement. Horizontalement d’abord, par la co-construction entre juristes, techniciens, et chercheurs, mais également sociologues et citoyens qui via les décideurs publics seront les utilisateurs de ces systèmes d’IA. Ces derniers doivent être dotés d’outils pour améliorer leur capacité à contester la décision d’un modèle afin de créer de la confiance. Le dialogue doit aussi être plurilatéral, non seulement par une coordination entre pays et puissances régionales, mais aussi en incluant les ONG, la société et l’industrie.

 

Cette coopération est aussi verticale. Pour être opérant, le processus délibératif d’une gouvernance globale doit pouvoir être traduit en termes techniques par les ingénieurs et les chercheurs qui conçoivent les modèles. Cependant, pour être parfaitement efficace et agile, cette approche différenciée devra pouvoir s’incarner par une gouvernance dans les entreprises capable de guider les équipes techniques. Ces dernières sont confrontées à plusieurs dilemmes du fait des contraintes techniques, mathématiques ou algorithmiques et ont besoin d’indications précises qui tranchent des compromis entre certaines notions d’éthiques comme l’équité ou le respect de la vie privée. Il est donc nécessaire de faire un choix qui relève presque de philosophie politique. Ces choix sont sociétaux et culturels.

Enfin, lorsqu’une directive réglementaire présente une ambiguïté intrinsèque (dans le but par exemple d’anticiper des développements de technologie future ou pour pouvoir être appliquée à un spectre large d’acteurs), il est précieux que l’écosystème puisse collectivement expliciter les points d’incertitude qui sont sujets à l’interprétation. Cet effort de clarification permettrait d’aligner les efforts de gestion du risque dans les modèles d’IA sur des standards communs. Ces concertations des parties prenantes ont vocation à constituer une « soft law » pour préciser ou compléter au plus près du terrain des principes plus généraux fixant l’esprit et l’intention.

Se concentrer sur un nombre réduit de secteurs

 

Enfin, la régulation pour être efficace doit en priorité se concentrer sur un nombre réduit de secteurs et d’applications sur lesquels une attention immédiate est requise. A titre d’exemple, l’UE propose de calibrer le niveau de régulation selon le niveau de risque que représente une application de l’IA ou un secteur industriel applicatif. La commission propose ainsi une liste de plusieurs secteurs à haut risque comme les transports, la santé ou l’énergie dans lesquels certains déploiements technologiques sensibles devront respecter un ensemble de règles plus exigeant. Cette approche semble raisonnable. Le risque consubstantiel à l’innovation et un principe de précaution aveugle à la diversité des cas d’usages aboutirait à une société du statu quo vidée de sa force entrepreneuriale et créatrice. Les applications dans le secteur public (justice et éducation notamment), la santé font certainement partis des chantiers prioritaires. Les exemples récents de systèmes mal déployés sont légions : les entreprises technologiques comme IBM ou Microsoft ont stoppé leurs services de reconnaissance faciale après que des failles éthiques à répétition aient été identifiées. L’algorithme néerlandais de prédiction de fraude pour les demandeurs de sécurité sociale a été suspendu par une juridiction du pays pour violation des droits de l’homme et de la régulation RGPD sur les données.

Ainsi, les rapports entre les régulateurs et les innovateurs en IA ne peuvent être résumés à un conflit entre le glaive et le bouclier. La multidisciplinarité de cette technologie, ses évolutions rapides et disruptives doivent être accompagnées pour qu’elle serve le plus grand nombre dans la transparence et responsabilité des acteurs.

Terrorisme-France : une cible facile parce qu’elle est faible

Terrorisme-France : une cible facile parce qu’elle  est faible

 

Il y a sans doute plusieurs facteurs explicatifs pour comprendre pourquoi certains pays islamiques ont pris la France comme cible. Certains expliquent que la France est en pointe en matière de démocratie dans le monde et que cette démocratie vient contrarier l’idéologie autoritaire islamique en vigueur dans nombre de pays musulmans.

D’autres pays ne sont pas moins démocratiques. Si la France constitue une des cibles principales du terrorisme islamique, c’est surtout en raison du décalage entre son discours et son action. En clair, la France est d’une faiblesse coupable. En effet, Macron,  lui aussi pour redorer son image au plan intérieur, ne cesse d’être en pointe sur les questions internationales sur lesquels en réalité il a peu de prise. Ainsi on voit bien aujourd’hui l’impossible position dans laquelle se trouve la force barkhane  au Mali où le pouvoir militaire actuel négocie avec les terroristes dans le dos de la France. Même faiblesse en Libye, en Syrie ou face aux Turcs. En Libye comme en Syrie la France a été mise hors jeu. Au Liban, Macron a voulu imposer son plan de redressement du pays avec la mise à l’écart de la classe politique. Un échec total aussi puisque le nouveau premier ministre est un cheval de retour.

En Europe, Macon se considère comme le leader politique mais dans les faits il n’obtient strictement rien car c’est évidemment l’Allemagne et Merkel qui discrètement décident des principales orientations. La France parle mais l’Allemagne agit par exemple à propos du conflit entre la Turquie et la Grèce en Méditerranée. La vérité, c’est que la France est faible, que son président est faible et que la politique française se résume à des bavardages médiatiques sans effet géo politiques positifs . La politique de sécurité intérieure est indigente ,elle permet en même temps le développement de l’islamisme et de l’économie de drogue.

La politique étrangère est tout aussi inconsistante puisqu’on est incapable de fermer les frontières ou d’imposer des sanctions économiques à ceux qui nous attaquent. La responsabilité en incombe à toute une classe politique depuis 30 ou 40 ans mais Macron porte une responsabilité particulière avec son verbe haut que contredit la faiblesse de son action voir sa couardise. Un seul exemple, ce service national qui devait être rétabli qui en définitive n’est pas obligatoire, pas militaire, pas même utile alors qu’il devait concerner une grande partie de la jeunesse justement pour permettre me brassage démocratie et l’appropriation des valeurs républicaines. La mollesse de Macron dans tous les domaines ( économique, social, sécuritaire, sanitaire ou encore environnementale- voir à cet égard la comédie de la convention dite citoyenne)  constitue une véritable catastrophe pour le pays radicaux islamiques se font un plaisir de marcher sur ce ventre mou.

France : une cible facile parce qu’elle est faible

France : une cible facile parce qu’elle  est faible

 

Il y a sans doute plusieurs facteurs explicatifs pour comprendre pourquoi certains pays islamiques ont pris la France comme cible. Certains expliquent que la France est en pointe en matière de démocratie dans le monde et que cette démocratie vient contrarier l’idéologie autoritaire islamique en vigueur dans nombre de pays musulmans.

D’autres pays ne sont pas moins démocratiques. Si la France constitue une des cibles principales du terrorisme islamique, c’est surtout en raison du décalage entre son discours et son action. En clair, la France est d’une faiblesse coupable. En effet, Macron,  lui aussi pour redorer son image au plan intérieur, ne cesse d’être en pointe sur les questions internationales sur lesquels en réalité il a peu de prise. Ainsi on voit bien aujourd’hui l’impossible position dans laquelle se trouve la force barkhane  au Mali où le pouvoir militaire actuel négocie avec les terroristes dans le dos de la France. Même faiblesse en Libye, en Syrie ou face aux Turcs. En Libye comme en Syrie la France a été mise hors jeu. Au Liban, Macron a voulu imposer son plan de redressement du pays avec la mise à l’écart de la classe politique. Un échec total aussi puisque le nouveau premier ministre est un cheval de retour.

En Europe, Macon se considère comme le leader politique mais dans les faits il n’obtient strictement rien car c’est évidemment l’Allemagne et Merkel qui discrètement décident des principales orientations. La France parle mais l’Allemagne agit par exemple à propos du conflit entre la Turquie et la Grèce en Méditerranée. La vérité, c’est que la France est faible, que son président est faible et que la politique française se résume à des bavardages médiatiques sans effet géo politiques positifs . La politique de sécurité intérieure est indigente ,elle permet en même temps le développement de l’islamisme et de l’économie de drogue.

La politique étrangère est tout aussi inconsistante puisqu’on est incapable de fermer les frontières ou d’imposer des sanctions économiques à ceux qui nous attaquent. La responsabilité en incombe à toute une classe politique depuis 30 ou 40 ans mais Macron porte une responsabilité particulière avec son verbe haut que contredit la faiblesse de son action voir sa couardise. Un seul exemple, ce service national qui devait être rétabli qui en définitive n’est pas obligatoire, pas militaire, pas même utile alors qu’il devait concerner une grande partie de la jeunesse justement pour permettre me brassage démocratie et l’appropriation des valeurs républicaines. La mollesse de Macron dans tous les domaines ( économique, social, sécuritaire, sanitaire ou encore environnementale- voir à cet égard la comédie de la convention dite citoyenne)  constitue une véritable catastrophe pour le pays radicaux islamiques se font un plaisir de marcher sur ce ventre mou.

Quelle régulation de l’intelligence artificielle

Quelle régulation de l’intelligence artificielle

L’informaticien et philosophe Jean-Gabriel Ganascia estime que les Etats doivent se saisir de ces questions et prendre leurs responsabilités, afin de ne pas s’en remettre uniquement aux acteurs privés.(Interview dans le monde)

Elon Musk a présenté, le 28 août, les recherches de sa société Neuralink visant, avec le recours de l’intelligence artificielle, à soigner des pathologies et augmenter les capacités cérébrales. Comment analysez-vous ces annonces ?

Les déclarations d’Elon Musk sont problématiques. Sa société travaille sur les implants cérébraux et sur les interfaces cerveaux-ordinateurs. Nous savons que quand une personne a une activité cérébrale, ses neurones émettent des signaux électriques. Les recherches dans le domaine des interfaces visent à analyser ces signaux grâce à des techniques d’apprentissage machine, afin de les transformer par exemple en commande d’un objet, d’une prothèse, etc. On parle ici d’un signal qui part de l’homme vers une machine.

Elon Musk, lui, laisse entendre qu’il pourrait aussi avoir un signal retour, de la machine vers l’homme donc. Nous pourrions, à terme, tous être connectés au réseau par nos cerveaux et bénéficier d’informations mises en commun. En étant tous liés par un « lacet neuronal » nous deviendrions d’une certaine manière transparents les uns aux autres. Il y a, derrière cette idée, la théorie selon laquelle l’intelligence artificielle va nous dépasser et qu’il faut, pour rivaliser, augmenter notre mémoire.

D’où vient cette notion de mémoire augmentée ?

En partie des auteurs de science-fiction, comme l’Ecossais Iain Banks (1954-2013), qui, dans la seconde moitié du XXe siècle, utilise le terme de « lacet neuronal » repris par Elon Musk dans sa présentation. Mais on trouve des liens encore plus anciens. Le physicien Vannevar Bush (1890-1974), conseiller scientifique du président Roosevelt, a écrit en 1945 – avant le premier ordinateur électronique – un texte visionnaire, As We May Think (« comme nous pourrions penser »), où il imagine le Memex (Memory Extender), un extenseur de mémoire pour gérer le savoir technologique en constante augmentation.

Il imagine, dessin à l’appui, un verre dépoli, l’équivalent d’un écran, sur lequel pourrait être projeté de l’information. Dans la conclusion du texte, il évoque les ondes électriques cérébrales et s’interroge : « Peut-être qu’un jour, on saura quelle est leur nature et on pourra passer, sans intermédiaire, directement de l’électricité extérieure, remplie d’information, à l’électricité intérieure. » On peut voir une certaine continuité entre sa vision et celle d’Elon Musk.

 

Quelle politique sanitaire suite au Coronavirus (Gilles Savary)

Quelle politique sanitaire suite au  Coronavirus (Gilles Savary) 

Gilles Savary est ancien député PS de la Gironde et délégué général de Territoires de progrès, il  expose son point de vue dans l’Opinion alors que la Cour des Comptes vient d’adresser une critique sévère au système sanitaire et autre de la sécu ( 44 milliards au moins en 2020).

 

 

Pendant le confinement, « le jour d’après » a alimenté une intense littérature spéculative sur les lendemains de la crise sanitaire, où chacun se prêtait à rêver de l’avènement d’une société nouvelle empreinte de ses aspirations et de ses idéaux post-matérialistes. S’il dessine plutôt aujourd’hui le triomphe d’une économie numérique qui confirme, une fois encore, la formidable capacité d’adaptation du capitalisme au profit des GAFA plutôt que son effondrement, il accouche également d’un rapport désenchanté des peuples à la médecine et aux politiques de santé publique.

La gestion au jour le jour de la crise sanitaire, à grand renfort de comités scientifiques et d’exposition médiatique de sommités de l’immunologie, a massivement démystifié la confiance chamanique qui entourait les médecins ainsi que la foi du charbonnier accordée aux progrès de la science médicale. Du coup, le peuple en est sorti plus désemparé que rassuré, et la médecine y a acquis une dimension politique, tout aussi soupçonnable que la politique elle-même.

Paradoxalement, cet effort de transparence et d’objectivation scientifique des décisions de politique sanitaire a débouché, dans un contexte de tâtonnements et de controverses médicales à ciel ouvert, sur une subjectivisation de la représentation populaire de la médecine, et par conséquent des décisions de politique sanitaire. Le professeur Raoult y a ajouté l’avènement d’un populisme sanitaire, dont la chloroquine est devenue le totem, au point de l’ériger en médicament politique : celui de Donald Trump, de Jair Bolsonaro ou d’un Florian Philippot en France.

Le « jour d’après » n’est pas encore advenu et le rebond épidémique d’aujourd’hui doit faire face à ce désenchantement des certitudes scientifiques. Si les Français, par principe de précaution, se conforment globalement aux décisions de protection sanitaire du gouvernement, leurs inquiétudes économiques et sociales gagnent du terrain. Le « vivre avec » du président de la République a finalement inspiré une tolérance plus fataliste aux risques encourus.

Cela n’a sans doute pas dissipé les contradictions des Français qui seraient tout aussi prompts à dénoncer l’impéritie sanitaire du gouvernement en cas de nouvelle flambée des décès, qu’à en contester les rigueurs aujourd’hui.

Inflexions. Quoi qu’il en soit, médecine et politique sanitaire ont perdu de leur autorité scientifique « verticale » au profit d’une stratégie plus sélective, où considérations économiques, territoriales et politiques ne sont pas étrangères.

D’un côté, le gouvernement a changé de logiciel sanitaire en substituant une approche graduelle et différenciée des mesures de protection, en fonction des contextes locaux, aux mesures nationales uniformes du printemps dernier. De l’autre, les rebuffades des municipalités de Paris et de Marseille aux annonces gouvernementales de fermetures des bars sous la pression de professionnels excédés, ont imposé au gouvernement une approche plus prudente et plus collaborative avec les pouvoirs locaux.

Ces deux inflexions notables ouvrent probablement la voie à une réflexion et à des revendications de décentralisation ou de déconcentration sanitaire accrue pour le « jour d’après » en matière de politique sanitaire, même si les ARS (Autorités régionales de santé) tant décriées ont retrouvé un regain de pertinence.

Dans ce domaine plus que dans d’autre, la voie sera étroite entre les vertus magiques que les élus locaux accordent à la décentralisation et l’attachement des Français à l’égalité d’accès à la santé publique sur l’ensemble du territoire.

Gilles Savary est ancien député PS de la Gironde et délégué général de Territoires de progrès.

 

Economie UE: quelle dépendance stratégique vis-à-vis de la Chine et des États-Unis

Union européenne : quelle dépendance stratégique vis-à-vis de la Chine et des États-Unis

 

Peut-être le réveil de l’Europe qui commence enfin à mesurer l’impact de sa dépendance économique et technologique vis-à-vis de grands pays comme la Chine et les États-Unis en particulier. La vérité c’est que l’Europe constitue une véritable passoire pour les produits et services en provenance notamment des deux grands pays cités. À l’inverse les États-Unis et la Chine encore davantage pratiquent  un  protectionnisme assumé qui freine les exportations et les implantations européennes. Ainsi par exemple en Chine les investissements étrangers ne sont permis mais dans le cas de sociétés où ils seront minoritaires au capital. À l’inverse des Chinois qui peuvent acheter à peu près tout ce qu’ils veulent en Europe. Les chefs d’État ont donc donné mission à la commission de faire l’inventaire des secteurs stratégiques dépendants fortement notamment des États-Unis et de la Chine.

L’UE, qui a fait des technologies vertes et numériques une priorité dans son plan de relance de la croissance économique d’après-crise, craint de se faire distancer dans la conception et la fabrication de batteries et dans le stockage dématérialisé.

Les dirigeants du bloc ont ainsi jugé que la priorité devait être donnée aux alliances européennes dans les batteries, l’internet des objets et l’hydrogène propre.

Ils ont par ailleurs appelé au développement de nouvelles alliances industrielles dans les matières premières, les microprocesseurs, les réseaux de télécommunication, les industries à faibles émissions de carbone ou encore le stockage numérique.

La Belle au bois dormant se réveille mais la question n’est pas seulement réduite au problème du développement de certains secteurs industriels mais aussi à celui de la régulation du commerce extérieur, dimension qui n’a pas été clairement abordée lors de la rencontre des chefs d’État

Les  chefs des Vingt-Sept ont convenu qu’une “partie importante” du budget à long terme de l’UE prévu pour la période 2021-2027 et du fonds de relance relatif, soit 1,8 milliard d’euros, devrait être consacrée aux superordinateurs et à l’informatique quantique, à la blockchain, à l’intelligence artificielle, aux microprocesseurs, aux réseaux 5G, aux communications sécurisées et à la cyberprotection.

Quelle politique de mobilité

Quelle politique de mobilité ?

 

Bruno Morizur, DG d’Athlon France  s’interroge sur la problématique de la mobilité et sur la politique du gouvernement dans le journal la Tribune

« La Semaine Européenne de la Mobilité 2020 vient à peine de se terminer que nous nous interrogeons encore sur ses résultats : comment voulez-vous réellement « inciter le plus grand nombre [...] à adopter une démarche écocitoyenne pérenne en privilégiant les déplacements doux et alternatifs à la voiture particulière », comme le prône l’Ademe, alors que 70% à 80% de nos concitoyens (selon les estimations : Ipsos, Insee, etc.) utilisent un véhicule pour aller au travail chaque jour ? Les incitations ne fonctionnent qu’auprès de ceux qui ont le choix !

Pourtant, nous devons tous optimiser nos déplacements afin de contribuer à la transition écologique. La réduction de l’impact environnemental du véhicule individuel est incontournable à ce titre. Nous y arriverons en multipliant les incitations, les investissements dans les infrastructures ET en optimisant l’existant.

À l’inverse, si nous persistons à imaginer que tous les modes de transport sont substituables sans contraintes, pour tous et partout, nous demanderons l’impossible aux Français et manquerons nos objectifs.

Nous pouvons tirer un usage plus écologique du véhicule individuel, à condition de lever les obstacles à la massification des motorisations moins polluantes. Le véhicule électrique sera incontournable, mais, comme le rappelle Séverine Jouanneau, « il n’y aura pas un, mais des véhicules électriques ».

La Directrice du Département de l’Électricité et de l’Hydrogène pour les Transports au CEA-LITEN indique que 80% des automobilistes parcourent une soixantaine de kilomètres par jour en moyenne : c’est pour ces millions de conducteurs quotidiens, ruraux et périurbains, que nous avons besoin au plus vite d’un réseau de bornes de recharge digne de ce nom !

 

Ceux qui utilisent plus intensément leur véhicule (véhicules d’entreprises, de livraison, vacances, etc.) auront quant à eux recours aux motorisations hybrides, partiellement électrifiées. Dans les deux cas, la Semaine Européenne de la Mobilité a été l’occasion de rappeler qu’il nous faut investir rapidement et massivement dans nos infrastructures de recharge : selon Xavier Mosquet, du BCG, la première vague d’électrification massive des véhicules particuliers commencera dès 2022, pour un véhicule électrifié devenu majoritaire vers 2030.

Dans les grandes villes, les modes de déplacement sont plus éclatés : bus, métro, vélo, autopartage, etc. La transition écologique passe par l’optimisation de chacun d’entre eux, via des investissements massifs dans les infrastructures et l’information des usagers.

Côté infrastructures, prenons l’exemple du vélo. Selon Olivier Schneider, Président de la Fédération Française des Usagers de la Bicyclette (FUB), « il nous manque un système vélo » : nous pourrions ambitionner une part modale du vélo de 25% en France mais le manque de voie adaptées la plafonne. En effet, combien de pistes cyclables ne sont que des lignes blanches, décourageant les potentiels cyclistes (légitimement) inquiets pour leur sécurité ? Combien de pistes mènent vers des gares sans parking sécurisé pour les vélos ni trains qui les acceptent à leur bord ? Les mêmes manques, d’infrastructures et d’intermodalité, sont criants pour l’autopartage, le covoiturage, etc.

Outre les infrastructures adaptées, l’usager urbain manque aussi d’information pour se repérer dans la jungle de solutions disponibles. Ainsi, Île-de-France Mobilité investit plus de 40 M€ pour intégrer dans une seule plateforme toutes les données disponibles en temps réel sur les déplacements dans la région : c’est à ce prix qu’un Francilien pourra choisir, à un instant « t », le mode de transport le plus efficace et renoncer à sa voiture. La même logique serait à répliquer dans toutes les agglomérations françaises afin qu’en ville, l’usage du véhicule individuel devienne plus raisonné.

Profitons de la Semaine Européenne de la Mobilité pour repenser nos déplacements comme un tout, à partir des usages et avec des moyens conséquents sur la table. La relance économique est déjà demandée par tous : la transition écologique gagnera autant que la croissance à ce que des fonds soient alloués à l’optimisation de (tous) nos modes de transport. »

 

Union européenne : quelle dépendance stratégique vis-à-vis de la Chine et des États-Unis

Union européenne : quelle dépendance stratégique vis-à-vis de la Chine et des États-Unis

 

Peut-être le réveil de l’Europe qui commence enfin à mesurer l’impact de sa dépendance économique et technologique vis-à-vis de grands pays comme la Chine et les États-Unis en particulier. La vérité c’est que l’Europe constitue une véritable passoire pour les produits et services en provenance notamment des deux grands pays cités. À l’inverse les États-Unis et la Chine encore davantage pratiquent  un  protectionnisme assumé qui freine les exportations et les implantations européennes. Ainsi par exemple en Chine les investissements étrangers ne sont permis mais dans le cas de sociétés où ils seront minoritaires au capital. À l’inverse des Chinois qui peuvent acheter à peu près tout ce qu’ils veulent en Europe. Les chefs d’État ont donc donné mission à la commission de faire l’inventaire des secteurs stratégiques dépendants fortement notamment des États-Unis et de la Chine.

L’UE, qui a fait des technologies vertes et numériques une priorité dans son plan de relance de la croissance économique d’après-crise, craint de se faire distancer dans la conception et la fabrication de batteries et dans le stockage dématérialisé.

Les dirigeants du bloc ont ainsi jugé que la priorité devait être donnée aux alliances européennes dans les batteries, l’internet des objets et l’hydrogène propre.

Ils ont par ailleurs appelé au développement de nouvelles alliances industrielles dans les matières premières, les microprocesseurs, les réseaux de télécommunication, les industries à faibles émissions de carbone ou encore le stockage numérique.

La Belle au bois dormant se réveille mais la question n’est pas seulement réduite au problème du développement de certains secteurs industriels mais aussi à celui de la régulation du commerce extérieur, dimension qui n’a pas été clairement abordée lors de la rencontre des chefs d’État

Les  chefs des Vingt-Sept ont convenu qu’une “partie importante” du budget à long terme de l’UE prévu pour la période 2021-2027 et du fonds de relance relatif, soit 1,8 milliard d’euros, devrait être consacrée aux superordinateurs et à l’informatique quantique, à la blockchain, à l’intelligence artificielle, aux microprocesseurs, aux réseaux 5G, aux communications sécurisées et à la cyberprotection.

« Quelle régulation des réseaux sociaux»

« Quelle régulation des réseaux sociaux»

 

 

Pour sortir de l’opacité qui alimente craintes et rumeurs de manipulations, le législateur doit confier à l’administration le pouvoir d’obtenir la transparence des plates-formes, estiment, dans une tribune au « Monde », Paula Forteza, députée, Aymeril Hoang et Benoît Loutrel, experts en numérique.

 

Tribune.

 

L’invalidation et les réserves d’interprétation décidées par le Conseil constitutionnel sur les lois de « lutte contre les contenus haineux sur Internet » et « contre la manipulation de l’information », ont le mérite de protéger sans concession la liberté d’expression. Elles soulignent aussi la difficulté à inventer un modèle de régulation des grands réseaux sociaux.

Dans une approche directe, la régulation porte sur les contenus publiés et se retrouve coincée dans une double contrainte : soit elle est respectueuse de nos libertés, mais au prix de son efficacité, en exerçant un contrôle trop tardif de l’expression publique ; soit elle est efficace, mais au prix de nos libertés, en exerçant un contrôle a priori par une entité illégitime.

Car selon nous, le juge judiciaire reste la seule autorité légitime pour sanctionner les abus de cette liberté. Rien ne saurait justifier de faire exception ou entorse au rôle de la justice, pas même le caractère instantané et massif de contenus contestables que permet le numérique. Alors, oui, la dématérialisation de notre parole, le recours à des pseudonymes, viennent percuter le mode opératoire de la justice. Mais il convient d’adapter les procédures judiciaires au contexte numérique et non d’en bouleverser les principes.

Dans l’attente de l’adaptation de la justice à la transition numérique, se pose néanmoins la question de l’action et de la responsabilité des grands réseaux sociaux. Participent-ils à une censure excessive de nos propos ou au contraire sont-ils trop permissifs à l’égard de nos abus ? Plus important peut-être, quelles sont les intentions et effets de ces traitements algorithmiques d’information à une échelle massive ? Cherchent-ils à influencer l’opinion publique ? S’en préoccupent-ils ? Qui utilise, et à quelles fins, cette infrastructure informationnelle pour cibler toujours plus finement des contenus qui ne se limitent pas nécessairement à nous vanter les vertus d’un bien ou d’un service ?

Le pouvoir des réseaux sociaux est à la fois similaire et fondamentalement différent de celui des médias traditionnels. Similaire, car en accélérant certaines informations, médias et réseaux sociaux influencent et permettent la formation de l’opinion publique. Radicalement différent, car les réseaux sociaux n’ont pas de protocole éditorial, qui voit l’éditeur sélectionner, un à un, les contenus. Leur pouvoir découle d’une fonction algorithmique, qui traite en masse les contenus.

 

« Régulation numérique, quelle éthique de responsabilité »

« Régulation numérique, quelle  éthique de responsabilité »

A une approche technique de la standardisation, les institutions européennes doivent intégrer une forte dimension juridique reposant sur un suivi des technologies dans leur évolution, estime Valérie Hernandez, spécialiste des questions d’économie du numérique, dans une tribune au « Monde ».

Tribune.

 

« Le 8 juin, l’entreprise IBM annonçait qu’elle ne vendrait, ni ne développerait plus de technologies de reconnaissance faciale. Dans la foulée, ce sont deux autres grands industriels du numérique, Amazon et Microsoft, qui lui ont emboîté le pas, annonçant désormais ne plus commercialiser ce type de technologies auprès des forces de police tant que cet usage ne serait pas encadré.

Au-delà du coup d’éclat dans un contexte politique particulièrement vif aux Etats-Unis et avec des forts échos dans le monde entier, ces annonces nous interrogent sur le rapport du secteur de la technologie à l’éthique. Si ces entreprises possédaient déjà des standards éthiques sur les technologies de reconnaissance faciale bien établis, auraient-elles en effet vendu ces technologies aux forces de l’ordre ?

Ce débat nous ramène aux deux formes d’éthique telles que définies par [le sociologue allemand] Max Weber (1864-1920) : une éthique de conviction et une éthique de responsabilité.

La première revient à agir en fonction d’une conviction supérieure qui rend certain de son action.

La seconde revient à agir en fonction des conséquences de ses actes et peut être nourrie également de conviction. L’actualité témoigne d’une incapacité à faire avancer une éthique de responsabilité dans le champ numérique.

Pourtant, les controverses n’ont souvent pas beaucoup d’utilité sociale. Elles tendent à imposer des croyances – positives ou négatives ou mal fondées – qui favorisent peu l’« empowerment » [le pouvoir d’agir] du citoyen. Elles ne permettent pas de remettre en cause des routines d’usage qu’il faudrait questionner : par exemple, des usages de loisirs – à l’instar du « face swapping » [procédé de photomontage] – qui participent de la banalisation de la reconnaissance faciale. Les acteurs sont enfermés dans des convictions et n’avancent pas dans leur responsabilité.

Dans la même veine, les discours sur la souveraineté numérique européenne qui lient l’éthique à une troisième voie européenne demeurent incantatoires. Alors que les droits et libertés fondamentaux, au plus haut niveau de la hiérarchie des normes et promus par le cadre juridique européen, notamment la Charte des droits fondamentaux, doivent être le ferment de cette approche éthique, en pratique, l’application de ce cadre juridique est marquée de profondes faiblesses.

L’Union européenne doit sortir de cette incantation et passer à une éthique de responsabilité. Pour rendre ce cadre efficient et ces principes opérants, notre continent doit se saisir politiquement des enjeux de la standardisation et ne pas la réduire à une discussion technique. Les Etats-Unis et la Chine l’ont bien compris et ont historiquement fait de la normalisation un terrain de bataille entre puissances dans le champ des technologies. »

Plates-formes numérique : quelle régulation du DSA

Plates-formes numérique : quelle régulation du DSA

L’action concertée d’autorités européennes indépendantes doit permettre de tenir l’équilibre entre respect des lois et liberté d’expression, affirment Roch-Olivier Maistre, président du CSA, et son homologue allemand, Tobias Schmid, dans une tribune au monde

Tribune. 

 

« Nous sommes des Européens. L’un est français, l’autre allemand, et nous œuvrons ensemble pour le respect des valeurs fondamentales européennes dans les médias audiovisuels. Ces valeurs démocratiques qui seront au cœur – rien de moins – de la négociation à venir du Digital Services Act (DSA).

De quoi s’agit-il ? D’un véritable défi. Avec le DSA, la Commission européenne va devoir organiser et actualiser les diverses réglementations européennes liées au numérique, avec la question centrale du degré de régulation nécessaire des plates-formes de partage de contenus pour garantir nos libertés et nos droits dans une société démocratique.

Une régulation durable revient à rechercher le juste équilibre entre, d’un côté, le principe cardinal de liberté et, de l’autre, les limitations susceptibles de lui être apportées pour garantir l’intérêt général. Souhaitons-nous une liberté d’expression absolue ? Ou acceptons-nous de lui fixer des limites ? Ce débat est au centre des discussions réglementaires sur les enjeux transnationaux, la lutte contre les contenus haineux et la désinformation. Il a également été au fondement de diverses initiatives législatives nationales, telles que la loi française contre la manipulation de l’information (« loi fake news » ou « loi infox » de décembre 2018), ou la loi allemande sur la haine en ligne (NetzDG) de janvier 2018.

Il revient aujourd’hui à l’Europe de résoudre cette tension et de proposer une réponse. Pourquoi ? Parce que nous le pouvons, forts de l’héritage de notre histoire mouvementée et de notre attachement profond à cette valeur fondamentale qu’est la liberté. Ce que l’Europe peut apporter à la numérisation de la société, c’est l’idée d’une liberté fondée sur l’Etat de droit. Nous avons besoin de règles pour être libres.

S’agissant du futur cadre réglementaire, la priorité est d’avoir un objectif clair. Pour nous, régulateurs, il s’agit avant tout de garantir la liberté d’expression, tout en protégeant la population contre les violations de la loi en ligne, telles que les atteintes à la dignité humaine, les menaces pesant sur les jeunes et les campagnes de désinformation.

Nous appuyant sur notre expérience, nous observons que l’indépendance des autorités de régulation des médias par rapport à l’Etat est bien plus importante que la structure, centrale ou fédérale, des autorités, et que la collaboration étroite et constructive des régulateurs au-delà des frontières nationales est d’une importance capitale. »

 

Retraites: quelle réforme ?

Retraites: quelle réforme ?

 

 

Les intentions du gouvernement de reprendre rapidement à la demande de Macron la réforme sur les retraites paraissent  assez surréalistes. En effet Macron se fondait  en avril sur l’hypothèse d’un équilibre financier au cours du quinquennat. «On a une chance dans le quinquennat qui vient, c’est qu’il n’y aura pas de déséquilibre financier du système des retraites. Je vais en profiter pour régler les enjeux de manière systémique, afin qu’on n’ait plus à y revenir. « . Le problème est évidemment différent aujourd’hui car il s’agit non seulement de traiter la question de manière systémique c’est-à-dire une remise en ordre complète mais maintenant de faire face à un énorme trou de 30 milliards rien que pour l’année 2020 « .

 

On voit mal les partenaires sociaux se mettre d’accord alors qu’ils n’ont déjà pas été en mesure de dégager des orientations communes sur les enjeux structurels de long terme. Avec cette nouvelle donne d’un creusement de la dette  par la crise sanitaire les chances de toutes discussions positives paraissent complètement illusoires. Ou alors il faudra que le pouvoir accepte de mieux centrer la négociation en distinguant notamment qui peut relever de l’urgence des mesures à plus long terme. Le mélange des genres conduira inévitablement un chaos et un échec des négociations.  En outre  la question de savoir si la réforme de est vraiment le sujet urgent du moment. En effet pense que la priorité devrait aller au plan de relance économique et au soutien à l’emploi. C’est la santé économique et l’emploi qui conditionnent d’abord le rééquilibrage financier.

1...89101112...14



L'actu écologique |
bessay |
Mr. Sandro's Blog |
Unblog.fr | Annuaire | Signaler un abus | astucesquotidiennes
| MIEUX-ETRE
| louis crusol