Questions et réponses : Comment mettre en œuvre correctement les données pour garantir une utilisation efficace de l’IA générative

Différents cas d’utilisation de l’IA générative dans les soins de santé ont vu le jour, qu’il s’agisse d’aider les prestataires avec la documentation clinique ou d’aider les chercheurs à déterminer de nouveaux modèles expérimentaux.

Anita Mahon, vice-présidente exécutive et responsable mondiale des soins de santé chez EXL, s’est entretenue avec MobiHealthActualités pour discuter de la manière dont la société mondiale d’analyse et de solutions numériques aide les payeurs et les fournisseurs à déterminer les données à mettre en œuvre dans leurs LLM pour garantir les meilleures pratiques dans leurs activités et leurs offres.

MobiHealthActualités : Pouvez-vous me parler d’EXL ?

Anita Mahon : EXL travaille avec la plupart des plus grands régimes de santé nationaux aux États-Unis, ainsi qu’avec un large éventail de régimes régionaux et de taille intermédiaire. Également les PBM, les systèmes de santé, les groupes de prestataires et les entreprises des sciences de la vie. Nous obtenons ainsi une perspective assez large sur le marché. Nous nous concentrons depuis de nombreuses années sur les solutions et services d’analyse de données ainsi que sur les opérations et solutions numériques.

MHN : Comment l’IA générative affectera-t-elle les payeurs et les prestataires, et comment resteront-ils compétitifs dans le secteur des soins de santé ?

Mahon : Cela dépend en réalité du caractère unique et de la variation qui résidera déjà dans ces données avant de commencer à les intégrer dans des modèles et à créer des solutions d’IA génératives à partir de celles-ci.

Nous pensons que si vous avez consulté un seul plan de santé ou un seul fournisseur, vous n’avez vu qu’un seul plan de santé ou un seul fournisseur. Chacun a ses propres différences nuancées. Ils opèrent tous avec des portefeuilles différents, des parties différentes de leurs membres ou de leur population de patients dans différents programmes, différents mélanges d’échanges Medicaid/Medicare et commerciaux, et même au sein de ces programmes, une grande variété de conceptions de produits, de marché local, régional et les variations de pratique entrent toutes en jeu.

Et chacune de ces organisations de soins de santé s’est en quelque sorte alignée et a conçu son application interne, ses produits et ses opérations internes pour soutenir au mieux le segment de la population sur lequel elle s’aligne.

Et ils disposent de données différentes sur lesquelles ils s’appuient aujourd’hui dans différentes opérations. Donc, alors qu’ils rassemblent leurs propres ensembles de données uniques, mariés au caractère unique de leur entreprise (leur stratégie, leurs opérations, la segmentation du marché qu’ils ont effectuée), ce qu’ils vont faire, je pense, est vraiment bien. peaufiner leur propre modèle économique.

MHN : Comment garantir que les données fournies aux entreprises sont impartiales et ne créeront pas d’iniquités en matière de santé plus importantes que celles qui existent déjà ?

Mahon : Cela fait donc partie de ce que nous faisons dans notre plateforme de solutions d’IA générative. Nous sommes vraiment une entreprise de services. Nous travaillons en partenariat étroit avec nos clients, et même quelque chose comme une stratégie d’atténuation des biais est quelque chose que nous développerions ensemble. Le genre de choses sur lesquelles nous travaillerions avec eux seraient des choses comme prioriser leurs cas d’utilisation et le développement de leur feuille de route, élaborer des plans autour de l’IA générative, puis éventuellement créer un centre d’excellence. Et une partie de ce que vous définiriez dans ce centre d’excellence concernerait des éléments tels que des normes pour les données que vous allez utiliser dans vos modèles d’IA, des normes pour les tests contre les biais et tout un processus d’assurance qualité autour de cela.

Et puis, nous proposons également la gestion des données, la sécurité et la confidentialité dans le développement de ces solutions d’IA et une plate-forme qui, si vous vous en inspirez, intègre certains de ces outils de surveillance et de détection des biais. Ainsi, cela peut vous aider à détecter rapidement, en particulier lors de vos premiers tests pilotes de ces solutions d’IA générative.

MHN : Pouvez-vous parler un peu de la surveillance des biais dont dispose EXL ?

Mahon : Je sais certainement que lorsque nous travaillons avec nos clients, la dernière chose que nous voulons faire est de permettre que des préjugés préexistants dans la prestation des soins de santé se manifestent et soient exacerbés et perpétués grâce aux outils d’IA générative. C’est donc quelque chose que nous devons appliquer des méthodes statistiques pour identifier les biais potentiels qui ne sont bien sûr pas liés à des facteurs cliniques, mais à d’autres facteurs et souligner si c’est ce que nous constatons lorsque nous testons l’IA générative.

MHN : Quels sont les points négatifs que vous avez constatés concernant l’utilisation de l’IA dans les soins de santé ?

Mahon : Vous en avez souligné un, et c’est pourquoi nous commençons toujours par les données. Parce que vous ne voulez pas de ces conséquences involontaires liées au report de quelque chose à partir de données qui ne le sont pas vraiment, vous savez, nous parlons tous de l’hallucination que peuvent provoquer les LLM publics. Donc, un LLM a de la valeur car il représente déjà, vous savez, plusieurs pas en avant en termes de capacité à interagir sur une base linguistique anglaise. Mais il est vraiment essentiel que vous compreniez que vous disposez de données qui représentent ce que vous voulez que le modèle génère, et même après avoir entraîné votre modèle, continuez à le tester et à l’évaluer pour vous assurer qu’il génère le type de résultat. que tu veux. Le risque dans le domaine des soins de santé est que vous puissiez manquer quelque chose dans ce processus.

Je pense que la plupart des clients du secteur de la santé seront très prudents et circonspects quant à ce qu’ils font et se tourneront d’abord vers ces cas d’utilisation où peut-être qu’au lieu d’offrir comme ce rêve, une expérience patient personnalisée, la première étape pourrait être de créer un système qui permet aux personnes qui interagissent actuellement avec les patients et les membres de pouvoir le faire avec de bien meilleures informations à leur disposition.