Archive pour le Tag 'potentiels'

Les dangers potentiels de l’intelligence artificielle

Les  dangers potentiels de l’intelligence artificielle

McKinsey constate le manque manifeste de diligence de certaines entreprises concernant les risques liés à l’IA, notamment sur les questions de conformité et de protection de la vie privée(article de John McCormick dans le Wall Street Journal repris dans l’Opinion)

 

Le siège de l’entreprise allemande Bosch, à Stuttgart.

 

Pour que les entreprises puissent réduire les dangers potentiels résultants de leurs projets dans l’intelligence artificielle, elles doivent d’abord admettre l’existence de risques liés à l’adoption de cette technologie. Les récentes conclusions de la société de conseil McKinsey montrent que de nombreuses entreprises sont en retard sur ces deux points.

La pandémie a accéléré l’adoption de l’intelligence artificielle : les entreprises trouvent dans cette technologie des opportunités pour repenser leurs processus opérationnels et leurs business models. Mais la mise en œuvre de l’IA s’accompagne de risques potentiels. Par exemple, un modèle conçu pour accélérer la procédure d’attribution de prêts hypothécaires pourrait se révéler partial, en discriminant une certaine catégorie de la population, et les entreprises qui n’identifient pas correctement les données puis n’excluent pas celles revêtant un caractère personnel au sein des grands volumes de données utilisés dans les projets d’IA pourraient écoper d’amendes en vertu du Règlement général sur la protection des données (RGPD) européen.

Une récente enquête de McKinsey révèle que moins de la moitié des personnes interrogées dont les entreprises utilisent l’IA identifient ces risques — notamment ceux liés à la conformité réglementaire et au respect de la vie privée — comme « pertinents » concernant leurs projets d’IA. Seul le risque relevant de questions de cybersécurité est considéré comme pertinent par plus de la moitié des personnes interrogées.

La société de conseil en gestion déclare trouver ces résultats, publiés à la mi-novembre, préoccupants.

« Il est difficile de comprendre pourquoi les risques systématiques ne sont pas identifiés par une proportion beaucoup plus élevée de répondants », écrit Roger Burkhardt, partner chez McKinsey, dans une note publiée avec les résultats.

Près de 2 400 cadres et dirigeants, évoluant dans des secteurs variés et des entreprises de tailles différentes ont répondu à cette enquête internationale, menée au mois de en juin. Environ 1 150 ont déclaré que leur société avait déjà adopté l’IA dans au moins une de ses missions. La société de conseil a demandé à ces entreprises quels risques elles considéraient comme pertinents et quel type de risques elles essayaient concrètement de traiter ou de réduire.

Sur les répondants, 38 % affirment s’efforcer de limiter les risques en matière de conformité réglementaire et 30 % assurent qu’ils travaillent pour diminuer ceux liés au respect de la vie privée, ce qui représente, pour ces deux sujets, des pourcentages légèrement supérieurs à ceux enregistrés dans une enquête similaire réalisée par McKinsey en 2019.

Michael Chui, partner chez McKinsey Global Institute, la filiale de la société spécialisée dans la recherche économique et le monde de l’entreprise, explique que la société de conseil ne donnait pas de définition des termes « pertinent » ou « risque » aux personnes interrogées. Il fait également remarquer que tous les risques ne concernent pas toutes les entreprises. Par exemple, les questions de sécurité physique des personnes vont probablement être moins importantes pour une société de services financiers que pour une entreprise de robotique.

Néanmoins, la plupart des entreprises sont concernées par un grand nombre des dix risques générés par l’IA qu’aborde l’enquête, précise-t-il. Il souligne que, si une entreprise ne considère pas un risque comme pertinent, elle ne va probablement pas chercher à en limiter la portée.

Bruce Ross, responsable groupe des services technologie et opérations de la Royal Bank of Canada, est surpris de constater que les sociétés ne sont pas plus nombreuses à se préoccuper des risques liés à l’IA tournant autour du respect de la vie privée et de la réputation de l’entreprise.

La banque, basée à Toronto, utilise notamment l’IA dans le cadre de la détection des fraudes, de l’analyse des risques, et des opérations sur les marchés de capitaux. Parlant des établissements financiers, il explique que, si des systèmes d’intelligence artificielle prennent des décisions, la conformité réglementaire et la cybersécurité deviennent alors des domaines générant des risques importants qui doivent être traités. « Les banques négocient sur la base de la confiance », rappelle-t-il.

L’un des principaux obstacles à l’évaluation et à la limitation des risques est tout simplement la prise de conscience de leur existence, précise M. Chui, de chez McKinsey. Les personnes qui mettent en œuvre des systèmes d’IA sont focalisées sur des objectifs commerciaux, comme l’augmentation des ventes ou la réduction du niveau des résiliations, précise-t-il. Elles sont donc susceptibles de ne pas pleinement admettre les risques résultant de cette technologie.

Zico Kolter, directeur scientifique des recherches sur l’IA au Bosch Center for Artificial Intelligence de Bosch et professeur associé à l’Ecole de science informatique de l’Université Carnegie-Mellon, le confirme. « Comme les entreprises se précipitent pour adopter cette nouvelle technologie afin de conserver leur longueur d’avance, il existe toujours le risque d’ignorer certains de ses inconvénients », assure-t-il.

Le travail de Bosch en matière d’IA couvre ses gammes de produits de détection intelligente, comme les capteurs et les caméras permettant aux systèmes de conduite autonomes de reconnaître les panneaux de signalisation. Pour limiter l’ensemble des risques en matière de sécurité, la société fait des recherches sur différents procédés, dont une technique appelée « adversarial training ». Elle consiste à apprendre à un système d’IA analysant les objets à les reconnaître en utilisant les scénarios les plus défavorables. Cela permet au système d’obtenir de bons résultats même s’il est soumis à une éventuelle attaque.

M. Chui indique que les entreprises peuvent prendre des mesures pour accroître la sensibilisation et réduire les risques, par exemple en recrutant des personnes disposant de compétences variées dans leurs différents services afin de les évaluer et de les diminuer.

Olly Downs, vice-président du marketing, de la technologie, des données et de l’apprentissage automatique chez le détaillant en ligne Zulily, affirme que son équipe rencontre notamment des cadres de la technologie, du marketing, de la chaîne d’approvisionnement et du service juridique pour mener son évaluation mensuelle des activités concernant les projets d’IA. Elle organise également des réunions régulières où toute l’entreprise discute des projets impliquant l’IA.

M. Chui, de McKinsey, s’attend à ce que les entreprises accordent plus d’attention, à la fois, aux risques liés à l’IA et à leur limitation à un moment où elles intègrent l’usage de cette technologie. « Prévoit-on que ces risques vont augmenter avec le temps ? Oui, clairement », conclut-il.

Traduit à partir de la version originale en anglais

Grandes plates-formes numériques de distribution : des dangers potentiels

Grandes plates-formes numériques de distribution : des dangers potentiels

Nombre de produits de grandes plates-formes numériques internationales comme celle d’Amazon distribuent certains produits dangereux en tout cas non conforme aux normes. Rien que chez Amazon 4000 produits ont été considéré comme non conformes voire dangereux. Le problème c’est qu’il existe déjà peu de régulation concernant ces plates-formes encore moins de contrôle et de sanction. Tous les produits aux normes ou non sont vendus sans tenir compte forcément des conditions notamment sanitaires. Lorsqu’ils sont attaqués par des consommateurs, ils réapparaissent sur d’autres plates-formes concurrentes. Il est pour le moins contradictoire d’imposer des normes de plus en plus rigoureuses aux productions européennes et parallèlement de laisser librement entrer des marchandises sur les mêmes marchés sans label et sans régulation préalable. Il s’agit d’une autre problématique que celle de la taxe internationale qui vise les GAFA. Il ne s’agit pas seulement de les taxer en raison de la puissance de leur ingénierie parafiscale mais aussi de contrôler la nature de leur production en leur imposant les mêmes contraintes coproduction européennes. D’après le Bureau européen des unions de consommateurs (BEUC), sur 250 produits achetés en ligne, les deux tiers ne respectaient pas la législation européenne en matière de sécurité.

Le Bureau européen de consommateurs (BEUC) a alerté ce lundi sur la dangerosité des produits achetés en ligne, sur des sites comme Amazon, eBay, AliExpress ou encore Wish.

Le BEUC regroupe 45 organisations nationales de consommateurs indépendantes, présentes dans 32 pays. Parmi elles, six associations ont testé 250 produits de janvier 2019 à janvier 2020. Chargeurs USB, jouets pour enfants, détecteurs de fumée, cosmétiques … 18 types de produits ont été contrôlés. Résultats: les deux tiers ne respectent pas la législation européenne en termes de sécurité.

Des  tests montrent «que les achats en ligne ne sont pas aussi sécurisés que dans le monde hors-ligne, a commenté Monique Goyens, la directrice générale du Beuc, dans le communiquéLa raison est simple: les marchés ne parviennent pas à empêcher l’apparition de produits dangereux sur leurs sites».

«Les groupes de consommateurs ont signalé à plusieurs reprises les produits dangereux, après quoi les marchés ont supprimé la liste. Mais cela ne peut pas devenir un modus operandi pour assurer la sécurité des consommateurs, car des produits similaires réapparaissent», a-t-elle ajouté. L’association britannique Which?, l’un des six groupes à avoir mené cette enquête, a ainsi précisé dans son propre communiqué avoir alerté à plusieurs reprises sur la dangerosité de sièges auto pour enfants vendus sur eBay, entre autres. Which? assure avoir prévenu eBay en 2017 que ces sièges ne respectaient pas les normes européennes, après quoi ils avaient été retirés de la vente. Mais, en 2019, ils étaient de nouveau réapparus sur eBay.

En août 2019, des journalistes du Wall Street Journal ont également révélé que plus de 4000 produits présents sur la plateforme d’Amazon pouvaient être considérés comme dangereux ou non conformes. En réalité, ce sont les vendeurs tiers qui sont mis en cause car Amazon n’est pas responsable des produits vendus. Le site de e-commerce est toutefois en charge de la sélection des vendeurs qui doivent, eux, satisfaire à des critères de qualité. Le Wall Street Journal avait ainsi pris en exemple la mort d’un client du Missouri dans un accident de la route, alors qu’il portait un casque acheté sur Amazon. Casque qui était non conforme à la réglementation du ministère des transports des États-Unis. La cour de Philadelphie avait alors estimé que l’entreprise avait la «pleine capacité, à sa seule discrétion, de supprimer tous les produits dangereux de son site».

Pratiquement un an plus tôt, en décembre 2018, c’était la Direction générale de la concurrence (DGCCRF) qui avait publié une enquête sur les produits de Noël vendus en ligne. Sur 46 objets testés par la DGCCRF et vendus sur des plateformes en ligne comme Amazon, Cdiscount, eBay, Fnac.com ou encore Aliexpress, 75% étaient «non conformes» et 39 % représentaient un «danger pour les consommateurs». Les entreprises de e-commerce avaient alors été contactées par l’organisme afin qu’elles retirent ces produits dangereux.

«Il est temps que l’Union européenne rende les marchés en ligne responsables des produits dangereux vendus sur leurs sites, et que les autorités les placent sous un examen approfondi», a souligné Monique Goyens, la directrice générale du Beuc.

Rouen- Incendie de Lubrizol : des risques potentiels de toxicité (Frédéric Poitou, expert)

Rouen Incendie de Lubrizol : des risques potentiels de toxicité (Frédéric Poitou, expert)

Frédéric Poitou, expert judiciaire en chimie et en pollution, évoque les risques de toxicité après avoir examiné la liste des produits qui ont brulé à Rouen (Interview France info)

 

 

Franceinfo: Faut-il s’inquiéter des produits qui ont brûlé dans l’usine de Lubrizol ?

Frédéric Poitou: Globalement, il y a des sources importantes de molécules carbonées et d’hydrocarbures, beaucoup de métaux et des acides inorganiques. Et avec la température qui s’était élevée lors de l’incendie et des explosions, ce sont les conditions requises pour former des dioxines. C’est un cocktail d’un ensemble de molécules et de constituants. Ce n’est pas la peine de chercher quelle est la toxicité de chacun puisqu’on trouve des produits inflammables, explosifs, auto-inflammables. Donc si on regarde les produits un par un, on n’a pas une vue synthétique. Globalement l’ensemble des stocks de produits qui étaient listés sont de 5 000 tonnes de produits qui en combustion génèrent des dioxines.

Pour vous, la nocivité de ces produits qui ont été mélangés et ont brûlé est évidente aujourd’hui ?

Ce serait très surprenant qu’il n’y ait pas de toxicité. Les dioxines sont formées dans les phénomènes d’incinération et on les retrouve à la sortie des incinérateurs. Comment voulez-vous qu’avec une telle source de produits chimiques et de métaux en combustion pendant plusieurs jours on n’ait pas de formation de produits toxiques. Je pense que cela va être vérifié lorsqu’on va analyser les suies, les suies de dépôts et les particules fines qui ont été émises. Maintenant, toutes les substances sont retombées puisqu’elles sont accrochées aux particules fines. Donc on peut aussi imaginer qu’à la date d’aujourd’hui, l’air prélevé n’est plus vraiment nocif, mais il est nocif par exposition à tout ce qui est retombé sur les sols de la banlieue rouennaise et dans les champs agricoles. Les dioxines ont une persistance longue, plus de 12 ans.

En tant qu’expert, que pensez-vous de la gestion de cette crise ?

Je pense que la communication préfectorale a franchement été désastreuse, à commencer par ce préfet qui disait : quand n’y a pas de traces il n’y a pas de risque. Ca n’est vraiment pas sérieux. Mais après, ce sont les stratégies du gouvernement. La communication est liée aussi aux circonstances, au site et au devoir de ne pas affoler les populations. Je connais bien Rouen, c’est une ville dont il n’est pas très facile de sortir s’il y a des alertes chimiques. Il y aurait eu des embouteillages terribles sur les ponts qui traversent la Seine. Moi je pense que le préfet était un petit peu léger.

La préfecture a aussi parlé de 160 fûts qui posaient problème, dont pouvaient émaner des vapeurs de mercaptan et d’hydrogène sulfuré. Comment peut-on détruire ces fûts ?

D’abord il peut y avoir une destruction chimique et puis une destruction par incinération. Mais ces fûts-là finalement sont ceux qui sentent très mauvais, mais ce ne sont pas nécessairement les plus toxiques en réalité. Ce sont ceux qu’on utilise pour parfumer, identifier les gaz qui eux sont inodores, on rajoute quelques doses de mercaptan pour qu’on les sente donc ça sent très mauvais. L’usine Lubrizol avait déjà été affectée par ce phénomène-là il y a quelques années, mais ce n’est pas le plus toxique.




L'actu écologique |
bessay |
Mr. Sandro's Blog |
Unblog.fr | Créer un blog | Annuaire | Signaler un abus | astucesquotidiennes
| MIEUX-ETRE
| louis crusol