L'intégration de l'intelligence artificielle en médecine soulève des questions cruciales sur la place de l'humain dans la relation soignant-patient. À travers l'histoire d'une consultation touchante, le Prof Giovanni Briganti explore les limites et les dangers potentiels de l'automatisation excessive des soins de santé. L'analogie avec Jormungandr, le Serpent du Monde de la mythologie nordique, souligne la nécessité de préserver ce qui est inaliénable dans la pratique médicale.

La femme avec qui je partage ma vie est médecin aussi. Généraliste en milieu rural, elle a récemment reçu un patient de 80 ans qui a « la bougeotte » depuis quelques semaines. Ce patient est capable de se lever à 3h du matin et d’aller travailler dans son jardin car il ressent des palpitations à répétition, et cela se calme lorsqu’il s’occupe. Puisqu’il travaille beaucoup dans son jardin, il ressent des douleurs, pour lesquelles des antidouleurs lui ont été prescrits il y a quelques années par son ancien médecin. Il se demande si ce ne sont pas les médicaments qui lui jouent des tours.

Le sens clinique de la jeune généraliste à qui il confie ces éléments est aiguisé par rapport à ces questions. Elle lui pose la question : « Est-ce que cela vous arrive parfois de penser que vous prenez de l’âge et que vous allez mourir un jour ? ». S’ensuit une consultation touchante et positive à plusieurs égards, qu’elle me raconte aussitôt pour prendre mon avis sur la question. Je lui réponds du mieux que je peux que son attitude a été plus que correcte, et qu’en ce jour, sa profonde humanité avait apporté encore plus au patient que ses compétences cliniques.

Cette histoire, bien que spéciale, n’a rien d’exceptionnel : les médecins font souvent face à ces situations en consultation. Mais cette histoire m’interpelle car peu avant qu’on me la raconte, j’étais en train d’analyser l’arrivée sur le marché d’une nouvelle solution d’intelligence artificielle, « le premier médecin IA » qui automatise quasi complètement les premières consultations à distance. Cette solution, une sorte de modèle de langage large amélioré pour la médecine, formulait une série de recommandations pour le patient, qu’elle soumet à un médecin travaillant à distance et qui ne rentre pas directement en contact avec le patient. En somme, le patient formule ses plaintes, l’algorithme les analyse, fait son diagnostic et ses recommandations (les nouveaux modèles sont particulièrement efficaces pour cela), soumet les deux au médecin responsable (qui ne verra jamais le patient), et, une fois validée, les resoumet au patient, avec éventuellement des prescriptions en pièce jointe. Actuellement spécialisée pour un seul type de plainte, cette nouvelle application fait actuellement beaucoup de bruit sur certains réseaux sociaux où les pseudo-experts en IA sont nombreux, et souvent payés pour faire de la publicité mégalomane aux nouvelles solutions digitales. Nous ne sommes par ailleurs plus surpris de l’effet néfaste que la communication unilatérale d’un diagnostic d’une machine à l’homme sans soignant au milieu peut avoir.

Qui plus est, beaucoup de scientifiques aussi perdent la tête et essaient de répondre à des questions qui n’ont pas lieu d’être. Il y a quelques heures, j’ai encore lu un article qui évaluait « la compétence des modèles de langage larges pour des questions morales », et on ne compte plus le nombre de papiers comparant l’empathie des médecins à celle des modèles de langage larges.

De plus en plus, je me dis que nous avons très bien fait de réguler l’IA en Union Européenne. Désormais, je me dis que nous devons désormais adresser des réponses à une question encore plus essentielle concernant les nouvelles technologies.

La question de l’inaliénable dans la transformation technologique. Pour l’illustrer, je vais prendre en symbole une de mes figures préférées de la mythologie nordique, Jormungandr, le Serpent du Monde. Fils de Loki et Angrboda, frère du loup Fenrir et de la reine des morts, Hel. Jormungandr est, dès son enfance, jeté par ordre d’Odin dans les mers du monde, car Odin reçoit la prophétie que Jormungandr causera des problèmes dans le futur. Jormungandr grandit tellement qu’il enveloppe la planète entière et il se mord la queue.

Jormungandr symbolise, dans la mythologie nordique, la transformation, puisqu’il en est l’agent : il est un des initiateurs de Ragnarok, la fin du monde, et tandis que les dieux, eux, meurent quasi tous, le monde (enveloppé par Jormungandr), lui, renaît sous un nouvel ordre. Jormungandr veut détruire le monde tel qu’il existe, et il y réussit par sa nature intrinsèque. Les dieux, eux, connaissent leur fin.

De même, la transformation digitale en santé crée de nouvelles réalités en « détruisant » d’anciennes : mais nous devons forcément nous questionner sur les réalités que nous créerons, inévitablement, avec la technologie.

Jormungandr est lui produit de la même essence que les dieux, au point où il rivalise même Thor, Ragnarok venu. Mais il n’est pas un dieu. Les dieux, eux, rencontrent leur fin, à Ragnarok.

De même, la machine ne sera jamais « homme », bien qu’elle puisse désormais nous donner l’impression qu’elle partage des choses avec nous. Elle n’est pas maudite (ou bénie ?) par la double conscience d’exister et de devoir mourir un jour. La machine n’aime pas, ne souffre pas, ne ressent pas le bonheur, la tristesse, ou une quelconque émotion. Elle ne doit pas faire face à sa propre finitude. En être conscients est nécessaire aujourd’hui.

Mais alors, quelles tâches ne peuvent être accordées à la machine, même si elle donne « l’impression » de savoir faire cette tâche (nous avons désormais dépassé le cadre du test de Turing) ? Cessons de lui confier à elle seule le secret des hommes, car il s’agit d’un bijou qu’elle ne saurait porter ou apprécier. Il faut être homme pour comprendre ce que les hommes ressentent : leur doute constant, leur remise en question de la réalité, le caractère éphémère des choses de la vie. Quand un clinicien soigne, il soigne non pas dans sa seule qualité de récipiendaire de connaissances : il expérimente la même nature des choses que le patient qu’il a face à lui.

Tout effort d’humaniser l’IA conduit à ce jour, selon mon opinion, à une confusion réelle et dangereuse dans l’esprit des hommes. Je pense encore, tous les jours, à notre concitoyen qui s’est suicidé à la suite d’une discussion avec une IA.

Ceux qui pensent pouvoir confier à la machine seule des choses comme l’empathie lors d’une consultation médicale, ou l’annonce d’un diagnostic, le suivi d’une recommandation, ne savent pas ce qu’ils font. La machine peut aider, sans doute, dans les limites de l’artefact qu’elle constitue.

Nous devons collectivement utiliser nos esprits pour aiguiser notre sens épistémologique, et en qualité de cliniciens, chercheurs, ou parties prenantes dans les soins de santé, donner des réponses uniquement aux questions qui en méritent une. Et la machine seule face à la plainte du patient en consultation, à la place du médecin, n’en est pas une. Au service du médecin qui fait face à la plainte du patient, là bien.

Lire aussi: IA et santé numérique: l’urgence de l’ambition (Prof Giovanni Briganti)