David Gruson, fondateur de l’initiative Ethik-IA et désormais Directeur de programme Santé chez Jouve, a notamment été Directeur du CHU de La Réunion, Délégué général de la Fédération hospitalière de France et Conseiller du Premier ministre chargé de la Santé. Il partage avec nous quelques observations sur la gestion de la crise sanitaire liée au Covid-19, sous le prisme des technologies en santé.

Village de la Justice : La disponibilité de nouvelles technologies en santé est-elle déterminante pour faire face à la crise sanitaire actuelle ?

David Gruson : Avant tout, je pense qu’il nous faut faire preuve de beaucoup d’humilité. Nous sommes dans le moment de la réponse collective à une crise majeure avec cette pandémie de Covid-19. Nous devons faire notre maximum pour aider les professionnels qui sont au front pour répondre à la crise. Des leçons devront en être dégagées dans un deuxième temps.

Ce que nous avions vécu fin 2014 à La Réunion était une suspicion de cas d’Ebola, nous n’étions évidemment pas du tout sur la même échelle. Mais je constate qu’un certain nombre de points que nous avions constatés à l’époque reste essentiels aujourd’hui et notamment, d’un point de vue hospitalier, notre capacité à mobiliser rapidement des lits de réanimation et de soins critiques lorsque la crise survient.
Il s’agissait de l’une des raisons principales du programme d’investissements que nous avions alors engagé avec le CHU de La Réunion. Cette démarche a heureusement pu être conduite à son terme par mon successeur Lionel Calenge et les équipes du CHU. Et je veux bien sûr penser à eux qui font actuellement face à la montée de l’épidémie dans l’île. Plus globalement, la question des stockages et des approvisionnements logistiques en matériels fondamentaux d’appui à la gestion de crise apparaît centrale.

D’autres aspects ont considérablement avancé, comme la mobilisation des outils numériques en appui à la crise. Sous l’impulsion de Dominique Pon et Laura Létourneau, des étapes très importantes ont été franchies au cours de derniers mois [1], ce qui permet, maintenant que nous sommes face à l’urgence, de gagner un temps précieux. Par exemple, avec Jouve, dont je dirige les activités santé, nous avons pu obtenir un référencement d’urgence par la Centrale d’achats hospitaliers RESAH de notre solution Know Your Patient [2]. Ce dispositif permet de gérer à distance le processus d’admission des patients et d’appuyer, en back office, le développement de la téléconsultation. C’est évidemment un levier pour éviter les concentrations inutiles de populations dans les halls des établissements de santé à des fins purement administratives.

VJ : Quelle peut être l’influence de l’intelligence artificielle dans la gestion d’une crise sanitaire ?

D.G. : L’IA est assez largement utilisée dans la gestion de la crise : pré-détection des foyers épidémiques, reconnaissance d’image par apprentissage machine, déploiement de vecteurs robotisés pour faire respecter les mesures de confinement… Pour autant, il faut aussi être lucide : la réponse au Covid-19 est essentiellement humaine. Et d’ailleurs c’est aussi une leçon pour tous ceux qui pensaient que les médecins et les infirmiers seraient à court terme remplacés par des machines. Et c’est aussi cela le sens opérationnel de l’idée d’une Garantie Humaine du numérique et l’IA en santé.

Cette gestion de crise conduit je pense à mettre en lumière l’intérêt et la nécessité de ce que nous avons porté avec Ethik-IA [3], , à savoir la reconnaissance du principe d’une Garantie Humaine de l’IA et de la technologie. Cette notion a été reprise dans l’avis 129 du Comité consultatif national d’éthique [4] et dans le cadre de l’article 11 du projet de loi de bioéthique adopté en première lecture à l’Assemblée nationale et au Sénat [5].

La Garantie Humaine de l’IA doit permettre, tout en répondant aux urgences de la crise, de préserver les valeurs essentielles de notre système de santé et notamment le principe d’une médecine personnalisée. C’est notre responsabilité collective en France et en Europe de trouver cette voie de la régulation positive de l’IA, y compris en contexte de crise majeure.

Dans S.A.R.R.A. [6], et plus particulièrement dans le tome 2, nous sommes déjà dans le Monde d’après. Celui dans lequel la supervision humaine ne jouerait plus et où l’intelligence artificielle serait seule aux manettes pour appliquer sa programmation. Pour autant, l’IA de S.A.R.R.A. n’est pas mauvaise en soi. Elle ne vise qu’à appliquer son programme, qui est la gestion de la crise épidémique. Mais elle le fait au prix de coûts humains, que nous ne pourrions sans doute pas supporter dans une lecture éthique mettant au premier plan les personnes. La Personne ou le Collectif ? Cette tension est au cœur de S.A.R.R.A. Elle est aussi, nous le sentons tous, à l’arrière-plan d’un grand nombre des problématiques qui sont à l’œuvre dans la réponse au Covid-19.

VJ : Quel regard portez-vous sur la collecte des données personnelles au prétexte d’une meilleure gestion de la crise sanitaire ?

D.G. : On voit que dans la gestion de crise Covid-19, certains pays ont pris des options assez radicales pour répondre au risque collectif, au détriment de la protection des libertés individuelles avec notamment le déploiement de solutions de « tracking » des patients testés positivement au virus.

Olivier Veran et Édouard Philippe ont marqué leurs distances vis-à-vis du data tracking. Et effectivement les conditions de son application dans les pays asiatiques face au Covid-19 semblent éloignées des principes qui ont fondé le RGPD et la Garantie Humaine de l’IA, désormais reprise par l’OMS et dans le Livre Blanc publié par la Commission européenne sur l’intelligence artificielle au mois de février 2020 [7].

Pour autant, face à la nécessité impérieuse de répondre aux risques majeurs, des digues que nous pensions bien établies sont en train de céder. C’est un constat et, ici encore, soyons réalistes. Cela répond aussi à une certaine demande sociale. Il faut donc trouver une voie de passage pratique en temps de crise pour s’ouvrir à l’efficacité de ces technologies, tout en préservant les principes essentiels qui fondent notre médecine, mais aussi notre démocratie.

Nous affrontons ces enjeux en temps réels et nous aurons à le faire durablement – et sans doute durement – aussi dans le temps de l’après-Covid. Nous aurons à tirer des leçons de tout ce que nous vivons en ce moment. Sinon, nous basculerons vite, dans le réel, dans le monde de S.A.R.R.A. Et, franchement, ce n’est pas une perspective que je souhaite pour notre Humanité.

Propos recueillis par Aude Dorange, pour la Rédaction du Village de la Justice