Précieux outil dans le domaine de la santé, l’intelligence artificielle doit laisser l’humain au centre de l’acte médical.
Commençons par dissiper un malentendu: le mot anglais intelligence n’a jamais voulu dire «intelligence», qui désigne en français la faculté de connaître, de comprendre, ou encore «l’ensemble des fonctions mentales qui ont pour objet la connaissance rationnelle», par opposition à l’intuition ou à la sensation. Pour les Anglo-Saxons, il signifie «information» ou «renseignement». Nous avons adopté l’appellation intelligence artificielle (IA) par transposition d’artificial intelligence pour désigner les outils créés par l’homme pour reproduire des comportements tels que le raisonnement, la planification ou bien la créativité. Il s’agit donc d’un processus d’imitation de l’intelligence humaine qui repose sur des algorithmes d’automatisation des tâches, capable d’agir plus rapidement et plus efficacement qu’un cerveau humain.
On comprend d’emblée que l’IA n’a aucune sensibilité, aucune conscience, aucune capacité de jugement ni même de raisonnement. Comme le note André Comte-Sponville, les IA sont des outils qui seront de plus en plus utilisés et performants, mais qui ne pensent pas. Ce n’est donc pas, tant s’en faut, une «intelligence» dans un sens où nous lui associons la clairvoyance, le discernement, le jugement, toutes notions qui portent une valeur morale, donc un lien avec l’éthique.
On ne peut nier toutefois que l’IA permet à ses utilisateurs de gagner du temps et d’accéder à des connaissances ou à des performances sinon hors d’atteinte. La santé, en particulier la médecine, ne fait pas exception. Le développement des systèmes d’IA y transforme les métiers et les modes d’exercice grâce à la mise au point d’outils d’aide à la décision.
Ainsi, le Pr Karim Fizazi, qui dirige le service d’urologie de l’institut Gustave-Roussy, prestigieux centre de soin et de recherche sur le cancer, table déjà sur l’avènement, d’ici à 2027/2028, de la pathomics. Il s’agit d’utiliser l’IA pour faire la différence entre deux lames d’anatomopathologie qui montrent apparemment la même maladie. On va présenter à la machine des milliers de lames de patients au diagnostic et à l’historique connus. Le système deviendra capable de discerner des sous-groupes et de «prédire» leur sensibilité au traitement. Il sera ainsi possible d’identifier les tumeurs susceptibles de bénéficier d’une hormonothérapie et de ne traiter que celles-ci, sans surtraiter inutilement les autres. Un progrès médical, mais aussi un «formidable outil de justice sociale en médecine», s’enthousiasme le Pr Fizazi.
Déjà, les cas d’usage de l’IA en santé se multiplient. En particulier la reconnaissance d’images par machine learning qui bouleverse l’exercice des radiologues, des ophtalmologistes et des dermatologues, même si elle ne s’y substitue pas. Car la question posée par le développement exponentiel de l’IA est bien là. C’est celle qu’évoque indirectement l’anthropologue Pascal Picq dans Le Sens de la tech. Il constate qu’au cours de l’évolution humaine, il n’y a pas eu de révolution technologique qui ne se soit accompagnée d’une création d’activités nouvelles. Quid des professions qui nécessitent un très haut niveau de formation et où l’expérience est une plus-value considérable, si les praticiens sont confrontés à un outil infatigable, potentiellement ubiquitaire et susceptible d’être multiplié quasi à l’infini; capable de mémoriser, comparer et trier à une vitesse inouïe des informations, à partir desquelles il se révèle susceptible de déduire, de raisonner et de proposer une solution fondée et «raisonnable»?
De plus, l’évolution de la pratique médicale, financée – au moins dans les pays riches – par des tiers, publics ou privés, a conduit les professionnels à employer près de la moitié de leur temps à l’administratif. Toute optimisation qui permet au praticien de plus se consacrer au patient est donc bienvenue. C’est ce que propose par exemple l’assistant médical conçu par Nabla, une start-up française, qui génère un compte-rendu immédiatement après une consultation et sera bientôt en mesure de rédiger la lettre adressant le patient à un confrère comme de gérer les déclarations à l’Assurance maladie. Mais les concepteurs de l’outil en admettent eux-mêmes les limites: si la machine peut proposer un diagnostic, c’est au médecin, et à lui seul, de le valider et de savoir quand et comment le communiquer au patient. Un premier niveau des questions éthiques associées au numérique, en particulier à l’IA. Ici, la France se distingue, car il importe de maîtriser l’implantation des innovations pour en faire des outils au service de l’homme, et non destinés à l’asservir ou à le remplacer.
Bien entendu, il ne s’agit pas de se fermer à l’innovation, notamment dans la santé. Le Comité consultatif national d’éthique a établi qu’un tel refus serait contraire à l’éthique, tout en souhaitant que soit dévolu à une instance telle que la Haute Autorité de santé un rôle de supervision. Pour mettre en œuvre cet outil de régulation sans brider l’innovation, les experts européens se sont accordés sur une idée venue de France, celle d’une supervision humaine. En cas de doute sur les solutions proposées par la machine, un dispositif de «garantie humaine» doit être sollicité. Concrètement, il est proposé de mettre en place des collèges de garantie humaine, inspirés des revues de concertation pluridisciplinaire, dont les médecins sont déjà familiers.
La France a intégré la garantie humaine dès la loi de bioéthique d’août 2021 et l’UE vient d’adopter un règlement dans ce sens, pour une entrée en vigueur dès 2025. Il reviendra alors au concepteur de tout programme d’IA d’en prévoir la supervision, en lien avec des professionnels de santé mais aussi avec des représentants des patients. L’Agence du numérique en santé (ANS) a accompagné cette reconnaissance, en précisant combien la garantie humaine assure le développement éthique des IA dans la santé, en établissant des points de supervision humaine au long de leur évolution.
L’ANS a souligné l’apport de ce label Garantie humaine, apte à aider à identifier les solutions d’IA qui respectent les intérêts essentiels et les libertés fondamentales pour permettre que l’humain reste au centre et l’emporte sur la logique numérique. Et enfin, s’adressant aux Medtechs, les entreprises qui éclosent autour de ces options prometteuses et novatrices, ainsi qu’aux citoyens soucieux de ne pas voir l’homme soumis à la machine, l’ANS précise que développer un label Garantie humaine, c’est insuffler dans ces firmes et leurs outils les principes philosophiques et éthiques, les rendant concrets et opérationnels pour les systèmes de soin, et ainsi de rasséréner les professionnels et les patients sur les conditions d’utilisation de l’IA.
S’il convient de toujours faire preuve de vigilance, on peut ici être rassuré. L’exigence éthique fait partie de la doctrine du numérique en santé au même titre que la sécurité et l’interopérabilité. La France s’est dotée d’un Cadre de l’éthique du numérique en santé, qui a l’ambition de doter notre pays d’un corpus réglementaire garantissant le respect des valeurs humanistes, citoyennes et écoresponsables par l’IA médicale. À l’heure d’un nouveau virage du numérique en santé, il importe de promouvoir le développement et l’évolution des outils et des pratiques dans un cadre respectueux des droits de l’homme et de son environnement.
Jean-Jacques Zambrowski, spécialiste de médecine interne, enseignant à Paris-Saclay et expert en politique et économie de la santé. Il conseille sur ces sujets firmes privées et organismes publics.
...
Précieux outil dans le domaine de la santé, l’intelligence artificielle doit laisser l’humain au centre de l’acte médical. Commençons par dissiper un malentendu: le mot anglais intelligence n’a jamais voulu dire «intelligence», qui désigne en français la faculté de connaître, de comprendre, ou encore «l’ensemble des fonctions mentales qui ont pour objet la connaissance rationnelle», par opposition à l’intuition ou à la sensation. Pour les Anglo-Saxons, il signifie «information» ou «renseignement». Nous avons adopté l’appellation intelligence artificielle (IA) par transposition d’artificial intelligence pour désigner les outils créés par l’homme pour reproduire des comportements tels que le raisonnement, la planification ou bien la créativité. Il s’agit donc d’un processus d’imitation de l’intelligence humaine qui repose sur des algorithmes d’automatisation des tâches, capable d’agir plus rapidement et plus efficacement qu’un cerveau humain. On comprend d’emblée que l’IA n’a aucune sensibilité, aucune conscience, aucune capacité de jugement ni même de raisonnement. Comme le note André Comte-Sponville, les IA sont des outils qui seront de plus en plus utilisés et performants, mais qui ne pensent pas. Ce n’est donc pas, tant s’en faut, une «intelligence» dans un sens où nous lui associons la clairvoyance, le discernement, le jugement, toutes notions qui portent une valeur morale, donc un lien avec l’éthique. On ne peut nier toutefois que l’IA permet à ses utilisateurs de gagner du temps et d’accéder à des connaissances ou à des performances sinon hors d’atteinte. La santé, en particulier la médecine, ne fait pas exception. Le développement des systèmes d’IA y transforme…
