IA en recherche : quelles certitudes dans une constante évolution ?

Tribune

Par
Anne-Marie Armanteras et Mathieu Robain
Membre du Conseil d’orientation du CRAPS et Directeur médical à la Direction des données d’Unicancer

La place qui sera celle du numérique et de l’IA en recherche n’est encore ni clairement définie, ni, moins encore, maîtrisée. Nous n’avons aucune certitude sur notre niveau d’acceptation d’une omniprésence du numérique et de l’IA dans ce domaine, et moins encore sur leurs conséquences sur les principes actuels qui encadrent aujourd’hui toute recherche médicale. L’ensemble des personnes impliquées dans la recherche, restera toujours à la source de la question de recherche, de la génération de l’information primaire à son interprétation, quelles que soient la place et la puissance des outils techniques qui accompagneront une recherche.

L’IA aura-t-elle une place choisie et assumée ?

Chacun projette une utilisation, une ambition sur l’usage du digital et de l’IA pour accélérer la recherche. Cependant, ces perceptions ne peuvent pas être exprimées avec une conviction pérenne devant la déferlante et la dynamique du digital et de l’IA, qui imposent de devoir reconsidérer nos certitudes toujours plus rapidement que nous ne l’avions anticipé. Accompagnant les nombreuses réflexions, publications, prises de position et rapports, nous savons que ce futur comporte de nombreuses incertitudes sur les implications réelles de l’IA dans la recherche. Nous ne savons pas si les évolutions resteront progressives et maîtrisées ou si un changement de paradigme, par une IA mal contrôlée, évoqué par certains, sera la réalité de ce futur en construction accélérée. La place du digital et de l’IA dans la recherche se construit à partir des évolutions continues des techniques, dont nous ne maîtrisons pas le calendrier, mais aussi par ce que nous, au niveau collectif, par nos autorités de santé, accepterons d’en faire. Notre capacité à maîtriser le niveau de contrôle est et restera l’enjeu majeur.

Notre aptitude à nous projeter dans le futur sur la place du numérique et de l’IA dans la recherche est une nécessité pour anticiper ces scénarios toujours incertains. La majorité d’entre nous : patients, chercheurs, médecins, mais aussi industriels et autorités de santé, ont des points de vue non techniques sur la finalité et les cas d’usage. Ceux-ci doivent également intégrer les dimensions éthiques, déontologiques, organisationnelles, commerciales et sociétales. Les aspects techniques restent et resteront un peu magiques ou obscurs pour beaucoup, mais nous devons composer avec eux pour répondre aux objectifs d’une recherche nécessairement toujours annoncée maîtrisée et acceptée collectivement. Les réflexions et les conséquences qui accompagnent toute révolution doivent nous conduire à définir collectivement nos limites et les règles obéissant aux valeurs sociétales que nous nous fixons. Certains scénarios sont sombres, avec une perte des compétences des experts de la recherche, une absence de maîtrise des outils qui ne resteront compris techniquement que par les spécialistes du domaine de l’IA, déconnectés du besoin. Pour être acceptables, les relations entre la technique et les finalités de la recherche doivent rester compréhensibles pour l’ensemble des acteurs de la recherche et, bien sûr, des Évaluateurs qui voient aujourd’hui arriver de nouveaux éléments dans les critères d’évaluation.

L’IA révolutionne les méthodes de la recherche, comment évolueront les principes de l’Evidence Based Medecine ?

Depuis plus de 35 ans, toute recherche clinique s’appuie sur des principes éprouvés, compris et opposables au niveau scientifique. Ces principes apportent une grande stabilité pour accompagner la construction d’un objet de recherche, puis sa conduite et enfin son interprétation. Les principes de l’Evidence-Base Medecine – médecine par les preuves –, sont depuis leur publication consubstantiels à toute recherche reconnue scientifiquement pour permettre leurs « justes » prises en compte par les autorités de santé. Les évaluations et les décisions prises à l’issue d’une recherche intègrent des enjeux pour les patients et également pour la société, mais sans aujourd’hui bien prendre en compte les dimensions et l’apport technologiques de demain. La notion de référentiels, voire de « gold standard » absolu, ne peut qu’évoluer.

La maîtrise de la réutilisation des données primaires sera-t-elle la clé de l’IA en recherche ?

L’utilisation du digital et l’IA en recherche repose sur un principe que nous conserverons toujours : la maîtrise de la génération des données primaires, toujours issue d’une relation singulière et humaine. Que ce soient les données de soins ou de recherche, mais aussi les données administratives ou de pilotage, ou encore les données environnementales, nous avons un niveau de contrôle sur leurs générations pour l’usage primaire pour lequel ces données sont destinées.

L’un des enjeux des outils digitaux et de l’IA est de conserver la maîtrise de la signification et de la validité de la donnée lors de sa réutilisation pour une autre finalité que celle pour laquelle la donnée a été générée. Les données primaires, issues de plusieurs sources et producteurs, sont partagées pour une réutilisation par des tiers – données de vie réelle. Celles-ci contribuent aux recherches descriptives, analytiques et s’immiscent progressivement dans la recherche clinique conventionnelle (e.g bras de contrôle externe). Ces données primaires sont également utilisées pour construire et entraîner des IA ou encore pour générer des données artificielles, en cours d’exploration. L’apport et l’ambition de l’IA et du numérique dans de nouveaux designs d’études cliniques, dans les nouvelles méthodes d’acquisition ou de génération des données, ou de partage, sont bien décrits par ailleurs. Ces travaux sont, d’ores et déjà, source de nombreux travaux de recherche publiés et progressivement pris en compte dans les évaluations par les autorités de santé.

La nécessaire maîtrise des résultats d’une recherche repose et reposera toujours sur la capacité à suivre le lien entre les données primaires et des résultats d’une recherche pour rester connecté au réel. Les déviations potentielles à ce principe sont à identifier et surveiller, comme, par exemple, lorsque les IA vont être de plus en plus fréquemment entraînées par des données elles-mêmes générées par d’autres IA.

Nous devons nous doter des outils techniques, réglementaires, organisationnels et décisionnaires pour conserver la capacité à partager ces données et à les rendre accessibles, avec un niveau de maîtrise optimal indépendamment de la technique seule. Tenant compte du rôle et de l’expertise de chacun, une gouvernance maîtrisée de la Donnée, comme pour la gouvernance scientifique et éthique, doit continuer à être un requis systématique pour l’utilisation du numérique et de l’IA en recherche. Un accompagnement de l’ensemble des acteurs impliqués dans la recherche par une puissance publique réactive et ouverte reste indispensable pour anticiper les nouveaux principes intégrant l’IA et le numérique et construire les outils réglementaires nécessaires au soutien de l’innovation et de la recherche.