Intelligence artificielle :Une réglementation européenne technocratique

Intelligence artificielle :Une réglementation européenne technocratique

 

Les citoyens sont quasiment absents de la proposition de règlement élaborée par la Commission européenne qui, en outre, laisse le champ libre au secteur privé, s’inquiètent dans le Monde Marc Clément, magistrat administratif, et Daniel Le Métayer, chercheur spécialiste des algorithmes.

Tribune

 

La Commission européenne a publié, le 21 avril, une proposition de règlement qui se présente comme la clé de voûte de la future réglementation européenne pour l’intelligence artificielle (IA). On doit saluer le travail accompli par la Commission avec la mise en place d’un comité d’experts et des consultations des parties prenantes.

Ce texte doit désormais être discuté au Parlement européen et on peut espérer qu’un large débat s’engagera autour de ces propositions.

En effet, il est capital que les Européens se saisissent de l’occasion pour faire en sorte que l’IA soit utilisée au service de la société tout entière, et non pas comme un simple moyen d’influencer le consommateur ou d’asservir le citoyen.

Le texte de la Commission repose sur une démarche d’analyse des risques qui la conduit à distinguer trois groupes de systèmes d’IA : des systèmes ou des usages prohibés car jugés incompatibles avec les valeurs de l’Union européenne (UE), comme la manipulation de personnes vulnérables ou l’identification biométrique en temps réel dans l’espace public aux fins de police (sauf exceptions strictement encadrées) ; des systèmes qui présentent des risques importants et qui sont soumis à un certain nombre d’obligations (analyse et gestion des risques, transparence, garanties en matière de correction, d’absence de biais, de sécurité, etc.) ; et enfin des systèmes qui ne présentent pas de risques significatifs et qui ne sont soumis qu’à des obligations de transparence dans des cas particuliers (interactions avec des humains, etc.).

Une autre particularité du projet de règlement est qu’il est articulé autour de deux catégories principales d’acteurs : les fournisseurs de systèmes d’IA et ceux qui les déploient. Ainsi, la plupart des obligations associées aux systèmes à haut risque pèsent sur les fournisseurs qui doivent s’en acquitter avant la mise sur le marché de leurs produits. On ne peut que se féliciter de l’obligation de mesures d’évaluation et de réduction des risques ex ante.

 

Cette architecture du projet de règlement reposant sur les niveaux de risques et des catégories d’acteurs nous paraît pertinente, mais les choix particuliers qui ont été effectués sur ces deux plans méritent discussion.