Lors de la dernière édition de la conférence Digital Health Connect, Andrei Kucharavy, co-fondateur du Gen Learning Lab à la HES-SO Valais/Wallis, a partagé des perspectives intrigantes sur les Large Modèles de Langages (LLM), appliqués à la santé.

Sa présentation a soulevé des questionnements cruciaux sur l’utilisation de ces technologies et a offert un regard à la fois réaliste et prudent sur leur potentiel. La magie (apparente) de ce type d’outil ne doit en effet pas occulter les biais et les risques encourus lors de leur utilisation comme aide à la décision.

Andrei Kucharavy a débuté en soulignant l’évolution remarquable des LLM, qui sont maintenant bien plus accessibles qu’il y a quelques années. En évoquant le chatbot développé par Google, il a mis en lumière l’ambition de ces technologies à rivaliser avec les diagnostics médicaux. Toutefois, il a souligné que malgré l’apparente magie perçue de l’extérieur, ces systèmes reposent sur des principes techniques complexes et non sur des tours de passe-passe.

« Les LLM ne se contentent pas de considérer les mots précédents, mais analysent tout le contexte antérieur. Ils apprennent des continuations basées sur des modèles appris ailleurs, en utilisant la probabilité pour prendre des décisions ». Cependant, la taille du modèle ne suffit pas ; ils doivent être entraînés avec une puissance informatique considérable pour fonctionner efficacement.

Inévitables, malgré les risques et les biais

Pourtant, l’orateur a souligné un aspect critique : les LLM ne font pas la distinction entre la réalité et la fiction. « Ils peuvent oublier des consignes dans des documents longs ou montrer des biais ». Andrei Kucharavy a mis en garde contre l’utilisation des LLM pour des prises de décision critiques en raison de ces lacunes.

Il a également admis que malgré les risques, l’intégration de ces systèmes dans un monde numérique où tout est de plus en plus informatisé, notamment via des plateformes comme ChatGPT, est inévitable.

L’orateur a conclu en soulignant que ces avancées technologiques sont à double tranchant : les LLM représentent à la fois un potentiel considérable pour le domaine de la santé tout en étant accompagnés de risques inhérents. « Cette évolution vers des pratiques numériques plus étendues nécessite une vigilance accrue quant à l’utilisation de ces systèmes, notamment dans des scénarios où la confiance et la précision sont primordiales ».

Ces technologies révolutionnaires offrent en effet des opportunités tout en soulevant des défis éthiques et pratiques qu’il est crucial de considérer dans le paysage de la santé.

Propos recueillis (par un être humain) le 17 novembre 2023 lors de Digital Health Connect