Intelligence artificielle (IA): s’ouvrir au meilleur pour éviter le pire

Intelligence artificielle (IA): s’ouvrir au meilleur pour éviter le pire

par David Gruson , membre de la chaire santé de Sciences Po Paris dans l’Opinion

Le déferlement médiatique autour de ChatGPT en ce début d’année 2023 agit, pour nombre de commentateurs, comme un révélateur. L’intelligence artificielle, que l’on présentait un peu rapidement comme une chimère ou un buzz sans lendemain, est considérée comme entrée maintenant dans le réel.

Cette prise de conscience est une bonne chose en soi, à condition bien sûr de prendre un peu de recul. Le caractère « grand public » des percées technologiques associées à ChatGPT ne doit pas faire oublier ce que sont plus largement les avancées applicatives de l’IA.

Dans le champ santé que je suis plus particulièrement, l’IA est désormais tout à fait opérationnelle pour interpréter les images médicales dans des secteurs aussi divers que la traumatologie, le diagnostic de la rétinopathie du diabète ou encore du mélanome. Sa généralisation, au plus proche des territoires, dans l’interprétation des mammographies représenterait une véritable révolution dans la prévention du cancer du sein. De même, les avancées de l’IA ouvrent considérablement le domaine des possibles dans la recherche des causes génétiques des pathologies comme le montrent les travaux conduits au sein de l’Institut hospitalo-universitaire (IHU) Imagine.

Le meilleur de l’IA, au service du progrès pour tous, est donc à portée de main. Pour autant que tout soit mis en œuvre, par ailleurs, pour éviter les risques éthiques majeurs associés à cette révolution technologique. Ce qui est troublant dans le phénomène ChatGPT, c’est qu’il nous donne à voir in vivo la concrétisation du risque que Paul Watzlawick identifiait dès 1978 dans La Réalité de la Réalité : le danger du brouillage même de notre capacité à percevoir le réel sous l’effet de la surabondance de l’information et des leurres de la technique. Qui me parle derrière ce texte ? L’Homme ou la Machine ? Serons-nous bientôt même en situation de pouvoir simplement le savoir ? La perspective sombre que je traçais en 2018 dans la dystopie épidémique S.A.R.R.A., une intelligence artificielle est déjà présente parmi nous, dès 2023.

Espoirs. La défense du réel est un combat majeur pour notre avenir comme Humanité mais aussi, déjà, pour notre présent. Le pire n’est, néanmoins, sans doute pas encore advenu. Il est toujours temps d’agir. Et ce début d’année est aussi un moment d’espoir pour toutes celles et ceux qui croient dans la régulation positive de l’intelligence artificielle.

Les avis 141 du Comité consultatif national d’éthique et 4 du Comité national pilote d’éthique du numérique viennent de dresser un tableau complet des avancées et des enjeux éthiques de l’IA en santé. La France et l’Europe ont pris une longueur d’avance en la matière. Le principe d’une garantie humaine de l’IA – c’est-à-dire d’une obligation de supervision par le concepteur en lien avec des professionnels de santé et des représentants des patients – a été intégré à la loi de bioéthique d’août 2021 et au futur règlement européen sur l’IA (qui sera finalisé dans ce premier semestre pour une entrée en vigueur effective en 2025).

Ce que nous montre seulement ce buzz ChatGPT, c’est le caractère discontinu de la courbe d’innovations en IA : des domaines avancent lentement et d’autres se caractérisent, au contraire, par des percées inattendues, en situation de briser de façon fulgurante nos tabous éthiques. Face à ce nouveau monde de tous les possibles, nous pouvons maintenant tous comprendre l’impérieuse nécessité de cette garantie humaine. Mais aussi tous percevoir que le temps pour la faire advenir nous est compté.

David Gruson est directeur du programme Santé de Luminess. Il est cofondateur d’Ethik-IA et membre de la chaire santé de Sciences Po Paris