La régulation de l’intelligence artificielle par l’Unesco

La régulation de l’intelligence artificielle (par l’Unesco)

 

L’Unesco a annoncé jeudi 25 novembre avoir adopté un premier texte mondial sur l’éthique de l’intelligence artificielle. 

 

Dans son rapport du printemps 2019, un  groupe d’experts de haut niveau de la Commission européenne notait que : « Dès qu’un système d’IA a une incidence importante sur la vie des personnes, il devrait être possible d’exiger une explication appropriée du processus de décision. »

Absence de sens commun. Performants pour des tâches simples et répétitives, les systèmes d’IA n’ont en revanche aucune compréhension du monde qui les entoure, ou du contexte dans lequel ils opèrent. Cela entraîne, par exemple, des erreurs de traduction cocasses (pour s’en assurer, il suffit de tester la phrase « mon avocat est immangeable » sur Google Traduction).

Mais cela peut aussi engendrer de graves dérives : après les attentats de Londres en juin 2017, l’algorithme de tarification dynamique d’Uber avait commencé par doubler le tarif des courses dans la zone concernée pour répondre à l’afflux de demandes.

Une solution à cette absence de sens commun peut être de mettre des humains « dans la boucle » des décisions, mais ce n’est pas toujours possible. Une autre approche consiste à définir des seuils de confiance, au-delà desquels une validation de la décision deviendrait obligatoire.

Certification impossible. Pour certaines applications, notamment dans les systèmes critiques (transport aérien, par exemple), les logiciels sont aujourd’hui certifiés, c’est-à-dire que leur fiabilité est mesurée et garantie. L’informatique classique, basée sur des programmes et des règles, le permet. En revanche, ce n’est pas encore possible avec les outils d’intelligence artificielle, dont les résultats varient en fonction des données qui servent à les entraîner. Aujourd’hui, aucun pilote automatique d’avion ne repose sur des outils d’intelligence artificielle et on imagine mal que les voitures autonomes soient autorisées à grande échelle sans aucune certification.

Dans leur rapport de 2019, les experts de l’Union européenne appelaient de leurs voeux la mise en place de ces certifications, qui « appliqueraient des normes définies pour différents domaines d’application et techniques d’IA, dûment alignées sur les normes industrielles et sociétales des différents contextes. »

« Les technologies de l’IA peuvent rendre de grands services à l’humanité » et « tous les pays peuvent en bénéficier », mais  »elles soulèvent également des préoccupations éthiques de fond », souligne dès son préambule la recommandation de 28 pages, ratifiée par les 193 Etats-membres de l’Unesco.

Fruit d’un travail ayant démarré en 2018, la recommandation de l’Unesco met en avant des valeurs – « respect, protection et promotion des droits de l’homme », « diversité et inclusion », promotion de  »sociétés pacifiques » et de l’environnement – que les Etats-membres s’engagent à respecter.

Elle liste également des actions que les signataires devront réaliser, notamment la mise en place d’un outil législatif pour encadrer et surveiller les IA,  »assurer une sécurité totale pour les données personnelles et sensibles » ou encore éduquer les masses à leur sujet.