Le rapport Villani sur l’Intelligence Artificielle

Comme vous le savez le mathématicien-député Cédric Villani a remis le rapport éponyme concernant l’Intelligence Artificielle (l’IA).

« Donner un sens à l’intelligence artificielle » Pour une stratégie Nationale et Européenne.

Innovationesante.fr a lu attentivement le volet concernant la e-santé, il s’agit du focus 2 intitulé : « la santé à l’heure de l’IA ».

Le focus commence par la promesse d’une amélioration de la qualité des soins tout en réduisant leurs coûts avec la possibilité d’une prise en charge plus personnalisée et prédictive du patient. Cela est finalement à notre sens exactement ce que la santé connectée en général peu apporter à la médecine d’hier.

Le constat est fait que les bases nationales des données médico-administratives ne sont absolument pas exploitables en l’état. Il n’y a aucune plate-forme nationale adaptée aux nécessités techniques de l’intelligence artificielle.

Le rapporteur énonce que l’appropriation de l’intelligence artificielle dépend de la capacité à accompagner les patients et les professionnels de santé. A InnovationEsante nous pensons que les patients sont en avance et réclameront de pouvoir utiliser les nouveaux outils leurs permettant de confirmer leur place centrale dans les processus de soins et de prévention, cette position est déjà acquise depuis bien des années. Il faudra par contre effectivement accompagner les professionnels de santé plus réticent à accepter les nouveaux modes d’exercices qui devront être déployés dans le cadre de la santé connectée. Nous enregistrons bien les réactions hostiles de nos confrères lors des enseignements que nous réalisons depuis maintenant deux ans sur ces thèmes.

L’intelligence artificielle est déjà au service de la médecine ce n’est pas qu’un stimulant comme le note le rapporteur mais un véritable partenaire, nous pouvons l’observer avec l’expérience d’un autre mathématicien français Jérôme Pesenti d’abord responsable du programme santé chez IBM Watson (qui est encore la meilleure réalisation en terme d’intelligence artificielle adaptée à la médecine), prenant ensuite la direction de Benevolentech en GB apportant alors directement et concrètement l’IA aux pharmacologistes leurs permettant de développer beaucoup plus rapidement des nouveaux médicaments. (Jérome Pesenti vient d’être nommé à la tête de la division IA de Facebook…)

L’intelligence artificielle exploite déjà les registres existants permettant de publier des travaux scientifiques d’intérêts majeurs en termes de santé publique.

Ces travaux permis par l’analyse des données collectées par les objets connectés pourront être multipliés à l’infini dans le cadre du Quantified self est en fait de l’emporwerment (Donc le patient est à la base et à l’initiative de bon nombre de recherches).

Il n’y a rien de nouveau dans tout cela, les médecins se sont déjà emparés de ces outils et de multiples applications sont déjà utilisées en routine.

Les problèmes de gestion sur le plan légal des données de santé sont également largement débattus.

De l’importance du Dossier Médical Partagé (DMP) adapté à l’IA:

Comme nous l’avait indiqué Jérôme Pesenti lors de son interview à Innovationesante.fr L’intelligence artificielle se mobilise contre la maladie d’Alzheimer : Interview de Jérôme Pesenti , il est indispensable d’avoir un dossier médical électronique pour alimenter les systèmes d’intelligence artificielle (système watson d’IBM par exemple), le Dossier Médical Partagé doit être un collecteur de datas, mais encore faudrait-il que ces datas soit bien organisées et donc exploitables. Il semblerait d’après le rapport que notre DMP ne soit finalement pas adapté aux exigences de l’IA, il faudrait peut-être généraliser le système des Datasets, système encore embryonnaire peu utilisé par les médecins et ne s’intéressant qu’à quelques pathologies chroniques.

Le rapporteur confirme aussi ce que l’on prévoyait déjà : l’automatisation de certaines spécialités dont l’action est basée sur des analyses de signaux risque de marginaliser les professionnels comme les radiologues, dermatologues… mais l’intelligence artificielle permettra de multiplier les actes de diagnostic et de prévention palliant ainsi la pénurie de nombreux spécialistes permettant également de faire de la prévention pour moins cher là où les spécialistes sont absents, il s’agit en France notamment des déserts médicaux, (en ville ou à la campagne), ailleurs de nombreux pays en voie de développement.

Notre rapporteur évoque le rôle fondamental des professionnels de santé dans l’expérimentation de l’intelligence artificielle, il utilise le futur, alors que les premières expérimentations sont anciennes, le Minitel était peut-être déjà un instrument d’intelligence artificielle ! Et depuis les années 80 nos confrères ont créé des médecins virtuels et de très nombreuses applications consommatrices ou ordonnant les datas, toutes ces expériences feront le lit des futurs systèmes plus évolués de type Watson et autre.

Notre rapporteur évoque aussi la nécessaire transformation des voies d’accès aux études de médecine et d’enseigner l’intelligence artificielle aux médecins.

Je ne suis absolument pas d’accord avec cette vision qui voudrait faire d’un médecin (qui restera un clinicien) un mathématicien ou un technicien, en effet l’intelligence artificielle ne changera absolument pas (pour les toutes prochaines années) la nature du patient, l’IA ne changera pas non plus (également pour un temps donné au moins) les maladies, les problématiques de prévention seront les mêmes.

L’intelligence artificielle apportera de nouveaux outils qui certes pour un certain nombre d’entre eux vont peut-être remplacer le médecin. Mais ces derniers les utiliseront comme un citoyen utilisera simplement un service bancaire évoluant dans la technologie blockchain sans avoir besoin de maîtriser ce qu’il y a sous le capot.

Pour imager cela je prendrais l’exemple de l’auscultation pulmonaire qui était d’abord médiate : l’oreille du médecin de famille posée sur le thorax du patient par l’intermédiaire d’un linge propre (comme le faisait encore le médecin de mon enfance), mais déjà le plus souvent remplacée par le stéthoscope non plus celui de Laennec mais le déjà bon vieux littmann, lui-même maintenant parfois remplacé par des dispositifs plus sophistiqués éventuellement collecteur de datas permettant d’analyser les sons, les rythmes, les pressions… pouvant être reliés à des applications riches en algorithmes savants permettant des diagnostics automatiques et des propositions de traitement. Et bien il n’est pas utile pour le médecin de connaître le fonctionnement intime de ces systèmes, l’objet connecté et l’application la plus sophistiquée possible ne change pas la problématique du souffle cardiaque ou du trouble de la conduction.

Donc à notre sens, certes les étudiants doivent se former avec les moyens techniques de leur époque, mais il me paraît préférable qu’il y ait côte à côte des datas scientist et des cliniciens (Exemple de  la société Benevolent qui associe en un même lieu mathématiciens et pharmacologistes).

Notre rapporteur insiste alors sur la nécessité de fluidifier les expérimentations dans la vraie vie. En indiquant que tout doit être encadré par la puissance publique et de conduire par exemple des politiques de prévention. Mais heureusement que les médecins pionniers en la matière n’attendent pas que la gouvernance soit en place.

De très nombreux projets utilisant l’intelligence artificielle, certes pas toujours très évoluée, sont déjà effectifs et non plus en expérimentation. Les pouvoirs publics doivent aider à généraliser des solutions qui fonctionnent déjà je pense à :

Une application de suivi d’un cancer à généraliser pour tous les cancers cela est d’ailleurs en projet par le concepteur de l’application.

Une application de suivi d’un patient opéré pour obésité morbide à généraliser pour tous les patients opérés, améliorant considérablement le parcours de soins et le bon suivi du patient.

Une application de suivi de patient ayant une pathologie chronique à généraliser pour toutes les pathologies chroniques, peut-être dans le cadre du principe des datasets à généraliser aussi.

En fait la réalité est qu’habituellement les pouvoirs publics sont à la traîne des professionnels de santé eux-mêmes parfois à la traîne des patients qui évoluent maintenant dans le principe réel de l’emporwerment, ce principe n’a pas attendu les nouvelles techniques informatiques. Il est démontré que les évolutions sociologiques ont précédé l’e-santé et l’intelligence artificielle, (la loi Kouchner a déjà 16 ans), finalement c’est le patient qui se prenant en charge va réclamer les outils de son autonomisation et quoi de mieux que des algorithmes sophistiqués pour faire vivre ces objets connectés et éviter ainsi d’entrer dans la maladie, et également de réaliser de la prévention secondaire ou tertiaire.

Concernant les projets qui ont été freiné par l’inertie des pouvoirs publics je peux citer :

-Le Dossier Médical Partagé qui émerge maintenant après plus de 500 millions d’euros de dépenses et plus de 15 ans d’errance.

-La téléconsultation qui peine à émerger alors que les pionniers ont été obligé de développer des systèmes B TO BE uniquement avec des fonds privés (assurance, grande entreprise, collectivité…) les obligeant à des pratiques parfois borderline sous le froncement de sourcil du Conseil Nationale de l’Ordre des médecins (qui n’aimait pas le principe du « téléconseil »).

Certes il ne s’agit pas là d’intelligence artificielle très sophistiquée, mais le contexte de dématérialisation, l’utilisation d’objets connectés et d’applications relativement simples permettront une éducation de base des professionnels de santé et du public avant de se lancer dans des systèmes plus sophistiqués.

L’intelligence artificielle pourra orienter enfin notre système de santé vers la prévention et le prédictif. Cela tombe bien car le système de santé Français est pour le moment encore assez performant dans le domaine du traitement, (d’où une très bonne espérance de vie, mais attention à la diminution des ressources notamment des hôpitaux qui pourrait nous conduire vers une direction proche de ce que l’on observe actuellement en GB).  Mais le système français est très mauvais dans le domaine de la prévention, d’où une très mauvaise espérance de vie en bonne santé par rapport notamment aux pays nordiques.

Je serais pour le moment moins enthousiaste que notre rapporteur concernant la collaboration entre les responsables de la gouvernance et par exemple Facebook qu’il cite comme partenaire possible.

Je voudrais rappeler que si c’est effectivement éminemment le rôle des pouvoirs publics d’organiser la gouvernance dans le cadre de la prévention, il faudrait faire très attention avec les GAFA, qui ont déjà roulé dans la farine par exemple la communauté scientifique et la revue Nature dans le cadre du projet Google Flu Trends qui  était finalement une escroquerie.

La même firme a également roulé dans la farine le pourtant très sérieux NHS Britannique en détournant des datas du service public anglais dans un but lucratif.

Quant à Facebook la firme vient d’écoper très récemment d’une amende de 1,2 million d’euros en Espagne « pour ses manquements répétés à la loi sur la protection des données ».

La CNIL lui a également infligé une amende 250 000 € pour « manquement à la loi informatique et libertés » dans sa gestion des données des utilisateurs.

Pour forcer le trait : L’autorité de la concurrence allemande estime de son côté que Facebook extorque les données de ses utilisateurs grâce à sa situation monopolistique.

Voilà donc notre partenaire éventuel en intelligence artificielle…

Concernant l’encadrement des données de santé notre rapporteur signale que tout n’est pas très clair. Or je pensais qu’entre l’ASIP et la CNIL nos données étaient entre de bonnes mains mais le rapport indique qu’il faudrait améliorer encore la gouvernance. Cela risque de nous promettre des délais de type… administratif ! Et détail également inquiétant le rapport nous dit qu’il faut mettre en place une plate-forme adaptée aux usages liés à l’intelligence artificielle … Donc tout est à faire…

Pourtant la base des données du PMSI permet déjà de réaliser quelques études épidémiologiques.

Mais l’actuelle Système Nationale des Données de Santé (SNDS) ne semble pas encore avoir donné ses fruits.

Comme le signale le rapporteur, le SNDS pourrait permettre à terme des études :

  1. De populations traitées en vie réelle,
  2. Sur l’usage de dispositifs médicaux,
  3. De pharmacovigilance ;
  4. D’essais thérapeutiques « virtuels » évitant les coûts élevés d’études cliniques ;
  5. La détection de « signaux faibles » dans la population générale,
  6. D’identifier les populations éligibles à des essais thérapeutiques ou interventionnels.

Je m’interroge fortement, s’agit-il de possibilité réelle dans un futur proche ou des promesses à plus long terme… en effet le rapporteur poursuit par :

« Cependant le SNDS a été conçu historiquement à des fins administratives, et n’est pas adapté au développement de l’IA dans le secteur de la santé ».

Avec une chute pareille et compte tenu des aventures passées (DMP…), j’ai l’impression que le rapporteur a lui-même enterré la belle énumération de promesses, en effet plus loin, le rapporteur exprime que le Système Nationale de Données de Santé n’est absolument pas prévu pour que les données qu’il contient soient exploitables…

Bref, ajoute-il, il faudrait créer une plate-forme et peut-être la confier à l’Inserm. Donc ce n’est pas pour demain.

Par ailleurs, il est préconisé d’avoir un accès aux bases hospitalières, mais sauf erreur de ma part, il n’existe pas de bases hospitalières homogènes, le dossier de l’APHP par exemple semble rencontrer beaucoup de problèmes de fonctionnement au quotidien, d’après les dires des confrères qui y sont confrontés, il est parfois nécessaire de faire circuler des dossiers papiers entre les établissements pour la consultation des médecins.

D’après le rapport il faudrait inciter les hôpitaux à organiser des « data science bowl » ou challenges autour des jeux de données (cf. National Cancer Institute), des projets collaboratifs…

Encore une fois compte tenu de l’avancée des projets d’informatisation dans les hôpitaux je ne vois pas de réalisation concrète avant bien des lustres.

Pour finir il est dit dans le rapport qu’il faudrait étendre les données recueillies par la plateforme au-delà des données médico-administratives : des données issues du plan France Médecine génomique, des données issues des grandes cohortes nationales, des données cliniques et hospitalières. Il faudra assurer l’interopérabilité des données et des systèmes (des hôpitaux jusqu’au SNDS), chantier qui pourra être articulé avec le développement d’une architecture technique du Dossier Médical Partagé compatible avec les usages de recherche et d’innovation.

En fait le rapporteur utilise le futur moi j’utiliserais plutôt le conditionnel.

Le contenu de ce court paragraphe me laisse particulièrement septique et perplexe, là je ne vois plus du tout le bout du tunnel.

Comme d’habitude je pense que les forces de la médecine de terrain, notamment libérales, vont de nouveau pouvoir encore longtemps défricher hors des sentiers battus et proposer des solutions innovantes avant une gouvernance efficace.

Et tracasserie administrative supplémentaire, les nouveaux processus de certification d’après notre rapporteur doivent être totalement revu dans le cadre de l’intelligence artificielle en raison même du caractère dynamique des processus automatiques apprenants et donc extrêmement évolutifs.

Il faut donc une nouvelle gouvernance peut-être sur le mode du programme FDA Pre-cert (États-unis).

Cela est bien compliqué mais la régulation de l’intelligence artificielle en santé est un enjeu de souveraineté nationale dans un contexte de course technologique internationale. Si la gouvernance nationale n’est pas adaptée à cette matière particulièrement évolutive, les solutions de l’étranger vont s’imposer dans l ‘hexagone. Et dans ce contexte, comme souvent, le travail des pionniers sera rentabilisé par des sociétés étrangères comme lors de nombreux projets technologiques avancés. Je veux prendre pour exemple le très médiatique robot Pepper qui est exhibé partout en Europe (d’abord en Belgique) et maintenant en France par la société Japonaise softbank alors que le concepteur est bel et bien français (Bruno Maisonnier ) et que le projet a failli capoter par manque de moyens avant la prise de contrôle par softbank.

En conclusion le rapport montre un double panorama, d’une part une situation de l’intelligence artificielle ou les pionniers ont déjà beaucoup travaillé notamment pour les solutions les moins évoluées de ces nouveaux systèmes.

D’autre part en ce concerne les solutions plus sophistiquées nous sommes tributaires des GAFA et autres Microsoft et IBM.

Le plus inquiétant est que la gouvernance va très probablement largement tarder à se mettre en place remettant en cause à moyen terme l’indépendance de notre pays en ce concerne la maîtrise de ses nouvelles technologies.

Le rapport de l’IA dans le domaine de la santé n’est ainsi pas très optimiste, cela rejoint les réflexions lues sur les réseaux comme par exemple celle de Guy Vallancien « 1.5 milliard d’euros pour l’IA, mais il en faudrait 10 fois plus …Le plan IA doit être européen… »

La structure nouvellement créée, je veux parler du Conseil National E-Santé, sera probablement une force de proposition et de travail pour l’utilisation de l’IA en santé, elle réunit de très nombreux professionnels de tous les horizons, l’une de ses premières manifestations d’ampleur sera le e-HealthWoorldMonaco2018 les 31 mai et 1er juin prochain, avec un panorama complet de la e-santé, voir la présentation de l’évènement dans innovationesanté : E-Health World Monaco 2018

Et le site du congrès :  https://e-healthworld.com/

Sur le thème de l’IA lire dans innovationesante.fr :

Le post « L’imposture de l’intelligence artificielle » on nous critiquons l’usage abusif et contre productif du terme même d’IA

Le post « Les ratés de la santé connectée, ou le patient pris en otage… » ou nous montrons les ratés et les opérations de marketing des GAFA dans le domaine de l’IA

Le post “DGX-1 de Nvidia, le super ordinateur dédié au Deep learning, va booster la recherche médicale. »

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *