Le boom de l’intelligence artificielle commence déjà à s’infiltrer dans le domaine médical sous la forme de résumés de visites basés sur l’IA et d’analyses de l’état des patients. Aujourd’hui, de nouvelles recherches démontrent comment des techniques de formation à l’IA similaires à celles utilisées pour ChatGPT pourraient être utilisées pour entraîner des robots chirurgicaux à fonctionner de manière autonome.
Des chercheurs de l’Université John Hopkins et de l’Université Stanford ont construit un modèle de formation utilisant des enregistrements vidéo de bras robotiques contrôlés par l’homme effectuant des tâches chirurgicales. En apprenant à imiter des actions sur une vidéo, les chercheurs pensent pouvoir réduire le besoin de programmer chaque mouvement individuel requis pour une procédure. De la Washington Post:
Les robots ont appris à manipuler les aiguilles, à faire des nœuds et à suturer les plaies par eux-mêmes. De plus, les robots formés sont allés au-delà de la simple imitation, corrigeant leurs propres erreurs sans qu’on le leur demande – par exemple en ramassant une aiguille tombée. Les scientifiques ont déjà entamé la prochaine étape du travail : combiner toutes les différentes compétences dans des interventions chirurgicales complètes réalisées sur des cadavres d’animaux.
Certes, la robotique est utilisée dans la salle d’opération depuis des années maintenant : en 2018, le mème « chirurgie sur un raisin » a souligné comment les bras robotiques peuvent aider aux opérations chirurgicales en offrant un niveau de précision accru. Environ 876 000 chirurgies assistées par robot ont été réalisées en 2020. Les instruments robotiques peuvent atteindre des endroits et effectuer des tâches dans le corps où la main d’un chirurgien ne rentrera jamais, et ils ne souffrent pas de tremblements. Des instruments minces et précis peuvent éviter les lésions nerveuses. Mais la robotique est généralement guidée manuellement par un chirurgien doté d’un contrôleur. Le chirurgien est toujours aux commandes.
Les sceptiques à l’égard des robots plus autonomes craignent que les modèles d’IA comme ChatGPT ne soient pas « intelligents », mais imitent simplement ce qu’ils ont déjà vu auparavant et ne comprennent pas les concepts sous-jacents auxquels ils sont confrontés. La variété infinie de pathologies chez une variété incalculable d’hôtes humains pose alors un défi : et si le modèle d’IA n’avait jamais vu de scénario spécifique auparavant ? Quelque chose peut mal se passer pendant une opération chirurgicale en une fraction de seconde, et que se passe-t-il si l’IA n’a pas été formée pour réagir ?
À tout le moins, les robots autonomes utilisés en chirurgie devraient être approuvés par la Food and Drug Administration. Dans d’autres cas où les médecins utilisent l’IA pour résumer les visites de leurs patients et formuler des recommandations, l’approbation de la FDA n’est pas requise car le médecin est techniquement censé examiner et approuver toute information qu’il produit. C’est inquiétant car il existe déjà des preuves que les robots IA feront de mauvaises recommandations, ou hallucineront et incluront des informations dans les transcriptions des réunions qui n’ont jamais été prononcées. À quelle fréquence un médecin fatigué et surmené approuvera-t-il tout ce qu’une IA produit sans l’examiner de près ?
Cela rappelle les rapports récents sur la façon dont les soldats en Israël sont s’appuyer sur l’IA pour identifier les cibles d’attaque sans examiner les informations de très près. « Des soldats mal formés à l’utilisation de cette technologie ont attaqué des cibles humaines sans corroborer leurs propos. [the AI] prédictions du tout », un Washington Post histoire lit. « À certains moments, la seule corroboration requise était que la cible était un homme. » Les choses peuvent mal tourner lorsque les humains deviennent complaisants et ne sont pas suffisamment informés.
La santé est un autre domaine aux enjeux élevés, certainement supérieurs au marché de la consommation. Si Gmail résume mal un email, ce n’est pas la fin du monde. Les systèmes d’IA qui diagnostiquent incorrectement un problème de santé ou commettent une erreur lors d’une intervention chirurgicale constituent un problème beaucoup plus grave. Qui est responsable dans ce cas ? Le Poste a interviewé le directeur de la chirurgie robotique de l’Université de Miami, et voici ce qu’il avait à dire :
« Les enjeux sont si élevés », a-t-il déclaré, « parce que c’est une question de vie ou de mort. » L’anatomie de chaque patient diffère, tout comme la manière dont la maladie se comporte chez les patients.
«Je regarde [the images from] Des tomodensitogrammes et des IRM, puis une intervention chirurgicale », en contrôlant les bras robotiques, a déclaré Parekh. « Si vous voulez que le robot effectue lui-même l’opération chirurgicale, il devra comprendre toute l’imagerie, comment lire les tomodensitogrammes et les IRM. » De plus, les robots devront apprendre à effectuer une chirurgie en trou de serrure, ou laparoscopique, qui utilise de très petites incisions.
L’idée selon laquelle l’IA sera un jour infaillible est difficile à prendre au sérieux alors qu’aucune technologie n’est jamais parfaite. Certes, cette technologie autonome est intéressante du point de vue de la recherche, mais les conséquences d’une opération chirurgicale bâclée menée par un robot autonome seraient monumentales. Qui punissez-vous lorsque quelque chose ne va pas, qui voit sa licence médicale révoquée ? Les humains ne sont pas non plus infaillibles, mais au moins les patients ont l’esprit tranquille de savoir qu’ils ont suivi des années de formation et qu’ils peuvent être tenus responsables en cas de problème. Les modèles d’IA sont de grossiers simulacres d’humains, se comportent parfois de manière imprévisible et n’ont aucune boussole morale.
Si les médecins sont fatigués et surchargés de travail – une raison pour laquelle les chercheurs ont suggéré que cette technologie pourrait être utile – peut-être faudrait-il plutôt s’attaquer aux problèmes systémiques à l’origine d’une pénurie. Il a été largement rapporté que les États-Unis connaissent une pénurie extrême de médecins en raison de la Inaccessibilité croissante du terrain. Le pays est en passe de connaître une pénurie de 10 000 à 20 000 chirurgiens d’ici 2036, selon le Association américaine des facultés de médecine.
