AXE 3 : ENTRE SÉCURITÉ DES SOINS ET AUTOMATISATION DU GESTE, NOUVELLES INTERMÉDIATIONS TECHNIQUES ET PROMESSES TECHNOSCIENTIFIQUES
Atelier n°6 : Intelligence artificielle et promesses techno-scientifiques au bloc opératoire : enjeux juridiques, méthodologiques et économiques
« L’IA et le scalpel : un mariage de raison ? », Axel Cypel, ingénieur, professeur expertauprès de l’école Aivancity
« L’encadrement éthique d’une technique de médecine prédictive en anesthésie : l’exemple de la “Consultation Médicale Endormie” », Pauline Elie, doctorante en droit et philosophie, EHESS, conseillère en éthique, Fondation AP-HP
« Comprendre la conscience de la situation des acteurs du bloc opératoire par des
capteurs : le regard d’un ingénieur », Arnaud Allemang–Trivalle, doctorant en sciences de l’ingénieur, Max Planck Institute for Intelligent Systems (Haptic Intelligence Department) & IMT Atlantique (Lab-STICC)
Modérateurs : Olivia Chevalier, chargée de recherche en philosophie des sciences, Institut Mines-Télécom Business School & Pr. Raphaël Vialle, chef de service de chirurgie orthopédique et réparatrice de l’enfant, Hôpital Armand-Trousseau AP-HP.
Bienvenue donc je vous présente le premier intervenant ah oui euh vas-y d’abord euh on va d’abord se présenter al on est est de modérateur à cette session on Vaira sur le chronomètre euh et je propose mais discute chaque communication les unes après les autres pour éviter
Lesffet boule de neige qu’on a eu à la session d’avant euh que chaque orateur puisse avoir des questions et puisse apporter des réponses euh moi je suis rapel je suis chirurgien je suis pasbc je suis chirurgien euh moi je travaillis avec titulairire et intérimaire euh et les nouvelles technologies
M’intéressentel point j’ai monté un GRP de recherche clinique à l’université Surb autour des nouvelles technologies innovation et qui me vaut le plaisir d’écouter les communications je suisiv chevalier je travaille che qui question l’intégration li dans le BL opératoire et donc je présente le premier intervenant qui est ingénieur qui chef de projetia dans
Une banque entre autres et tu as dit aussi que tu étais tu es intervenant tu es professeur dans ben la parole est à bien merci cher Olivia chevalier pour ces mots d’introduction et l’invitation à venir éclairer ça c’est si tout se passe bien cette assistant sur ce qu’ l’intelligence artificielle avec comme
Angle de projection ses impacts réels ou supposés sur le domaine de la santé plus particulièrement celui de la chirurgie il y a il est inutile de la définir tout le monde sait ce que c’est l’intelligence artificielle c’est le Deep learning en français les réseaux de neurones un support informatique qui
S’inspire du cerveau humain pour le surperformé c’est pour ça que ça apprend d’ailleurs parce qu’il voyait déjà mieux que nous mais les réseaux de neuron ont même récemment appris à parler notre langage enfin plutôt toutes les langues du monde excusez du peu chat GPT ça vous dit
Quelque chose après la vision et la parole vous conéderez qu’il ne manque pas grand-chose il y a compte 1 2 3 bien sûr mieux que nous et s’avère donc une mathématicienne insurpassable ses capacités de mémorisation sont infinies en comparison des nôtres loui et la synthèse vocale lui sont déjà accordé
Les capteurs aptiques feront le reste il y a sera plus intelligente que nous c’est une évidence souvent rappelée par les papes du domaine ceux qui travaillent chez les gâfames et qui n’ont bien entendu aucun intérêt à le rappeler et voilà patatra pourtant c’était bien parti mais vous voyez que
Je j’arrive pas à rester très longtemps dans ce registre dans le théâtre il y a plusieurs chapelles dont une qui prétend que chacun a un emploi dramatique et quand on y réfléchit compte tenu de notre parcours notre passé notre personnalité notre vécu il semble quand même difficile de récuser cette thèse
Alors je sais pas si ça s’est vu mais le rôle du turiféire de liya de l’admirateur béat prêt à admettre la supériorité d’un artefact informatique qui se prétend lui-même intelligent ce rôle ne fait pas vraiment partie de mon emploi naturel voilà moi je voulais jouer dans salust c’est le méchant dans
Rui Blas mais mon emploi c’est précisément le rôle éponyme le gentil le romantique alors souhaitonsleur quand même bon appétit à ces messieurs qui parle ainsi de liia seront pas moins des ministres intègres et des conseillers vertueux mais je vous propose quant à nous de revenir à un discours plus
Réaliste sur cet outil quelle intelligence artificielle qu’il convient de définir au risque de tomber dans la caricature que je donnais précédemment car l’ a c’est une réalité mais c’est aussi un buzzw et sa définition comme vous allez le voir est pas si simple que
Cela à établir et ce sera donc ce à quoi je m’attacherai dans un premier temps euh euh avant d’étudier en quoi elle devrait pouvoir se révéler fort utile en santé dans le domaine chirurgical voilà donc si on était à sciencep c’est vrai qu’il y a eu des intervenants qui y
Étaient avec ce magnifique plan en de parties je pourrais m’arrêter là mais comme on ne peut pleinement apprécier Victor Hugo en faisant fille de toute rhtorique classique j’ai prévu une troisème partie qui entend vous faire prendre conscience des limites et des risques propres à l’IA et à son
Application en chirurgie afin que chacun d’entre vous a en tête les questions que tout cela devrait normalement susciter Titre 1 définition de l’IA l’intelligence artificielle évoque avant toute chose une discipline qui relève essentiellement de l’informatique et des mathématiques appliquées elle vient donc avec un programme de recherche qui lui est propre et qui
Démarre concomitamment à la naissance de l’ordinateur ce projet quel est-il il s’énonce assez simplement faire réaliser par des machines des tâches qui demandent usuellement de l’intelligence pour les résoudre alors défaut de nous éclairer sur la nature de l’intelligence il peut déjà définir ce qu’il y a d’artificiel dans l’IA la conception
D’une machine qui par définition n’est pas humaine et dont la vocation est d’effectuer une tâche qui éta a priori faite par l’homme à peine ces précision esquissée que s’ouvre déjà plusieurs Abys en quoi consiste cette intelligence que la machine cherche à reproduire est-elle mécanisable si oui comment s’y prend-on sans parler des interrogations
Plus que légitimes conc concernant son usage que nous résumerons en une phrase lapidaire est-il seulement souhaitable l’intelligence artificielle peut se substituer à nous dans deux genres d’activité la première se conçoit sous la forme du raisonnement classiquement accessible par programmation explicite de règles dans l’ordinateur ces règles étant intelligentes n’ont-elles pas été
Produites par des experts du domaine considéré celui qui les respecte mais aussi la machine objet qui les suit devient logiquement intelligent l’autre activité ressorti au phénomènees dont nous n’avons pas conscience du fonctionnement ni connaissance précise des mécanismes sous-jacents la perception qu’elle soit visuelle auditive mais également la faculté proprement humaine du
Langage l’approche de ce domaine par les règles l’ancienne manière de faire de la échoue sur ses capacités les nouvelles méthodes y palent vous avez sans doute entendu que l’ya pouvait apprendre et ce qui se cache derrière ce vocabulaire anthropomorphique est que le programme informatique qu’elle demeure au grand â
De ces élateurs ayant placé leur foi dans une IA générale de science-fiction qui n’arrivera hélas que demain c’est pas prévu pour aujourd’hui bref cette IA construit un modèle en ingurgitant des grandes masses de données autre fait d’orénavant bien connu je pense ces approches dites d’apprentissage machine autorise la vision par ordinateur qui
Devient capable de repérer des objets ou du texte dans des images mais aussi des chatbots censé interagir avec nous par le biais du langage écrit voyez chat GPT alors si on s’entient au seul aspect scientifique de Lia sa nature profonde se définit par un acte fondateur qui est celui de la
Modélisation donc dans l’a de l’avant la programmation par règle que je viens d’évoquer une situation est décrite par des experts puis codifiée et c’est une forme de modélisation de la connaissance par laquelle l’ordinateur traite des données pour produire un résultat cohérent avec les règles de traitement
Qu’on lui a donné et qu’il applique en bon crétin digital qu’il est li a de l’après comme il vient d’être dit est celle du machine learning c’est-à-dire la constitution d’un modèle mathématique censé se conformer à la loi physique sociale empirique du phénomène considéré cette forme de modélisation dérive d’une
Phénoménologie ça fait un peu écho à ce qu’on a entendu ce matin elle n’explique pas elle ne comprend pas elle réplique plus ou moins fidèlement un constat traduit par des données le moteur de cette IA est d’algorithme ce d’optimisation qui assure une convergence vers le modèle précisément optimal qui explique les données
Fournies mais surtout généralise c’est-à-dire donne des résultats résultats qui sont des prédictions de la classification de la compéion résultat conforme sur des données non vues pendant la phase entraînement sinon c’est de la triche illustrons ce ce schème important pour notre compréhension avec l’exemple paradigmatique de l’apprentissage supervisé alors pour donner nous
Disposons d’image numérisée cette précision est primordiale faut-il vraiment y insister ces images sont des radiographies il nous intéresserait de savoir si ces clichés présentent la trace d’une tumeur pour l’ordinateur ces images prennent la forme d’une matrice de pixel c’est leur syntaxe tandis que qui nous intéresse dedans est leure
Sémantique cancer ou non sur la foi d’une radio toute l’information est là présente de manière implicite comment l’expliciter comment faire apprendre à l’ordinateur à départir un cliché comportant une tumeur d’un n’en comportant pas voici la solution construite grâce à une RD ayant couru sur plusieurs dizaines d’années qui fournit la technique informatique reen
De l’IA Act Act le Deep learning l’apprentissage d’un modèle par la famille des réseaux de neurones nous allons ici utiliser cet algorithme en mode supervisé demandons à un médecin de disposer plusieurs milliers de radiographies en deux tas celle qui présente une tumeur et celle n’en montrant pas cette étape consiste à
Étiqueter les données qui sont les radios je le rappelle figurant autant d’exemples que l’on présentera au réseau de neuron son algorithme d’optimisation forme l’équation mathématique qui associe une image à son étiquette lorsque l’erreur que commet le réseau sur les bases d’apprentissage et de test tend vers zéro le modèle est prêt à être
Employé sur de nouvelles radiographies il pourra alors répondre à la question pour laquelle il a été conçu l’image que je te présente contient-elle oui ou non une tumeur comme on le voit cette technique est indissociable des données en amont sur lesquelles l’algorithme s’entraîne et le modèle de la situation
Ou du phénomène en jeu se forme le modèle est terminé par corrélation statistique associant la cible qui est la réponse à la question à la donnée l’expriment et c’est en cela qu’il y a supervision règne de l’implicite dont seule la pointe est explicitée c’estàd le modèle répond mais sans que sa
Réponse traduise un explicite puisqu’elle n’est que le résultat de corrélation complexe entre des millions de variables ici les pixels une je dis bien une règle de détection de tumeur a bien été appris sans qu’elle a été explicitée par le médecin éticteteur celui qui a fait les
De TS car seul le résultat de son action est reproduit et non la manière dont il a été réalisé le fait que la réponse soit majoritairement satisfaisante relève presque du miracle ontologique et incidemment oncologique nous venons d’évoquer deux manières de construire des As soit des modèles la la constitution de règles
Donc la programmation classique je répète et l’apprentissage supervisé que je viens d’évoquer il existe encore deux ou trois modalités pour constituer des modèles l’apprentissage non supervisé et l’apprentissage par renforcement une troisième qu’on pourrait citer serait l’apprentissage autosupervisé mais là je vous renverrai bien à mon récent ouvrage
Voyage au bout de Lia dans lequel cela est expliqué et c’est par cette technique entre autres que fut créer chat GPT l’apprentissage supervisé quant à lui et comme son nom l’indique une modélisation sans connaître les étiquettes de données qui au passage ne sont pas obligé d’en avoir en gros ça
Fait du classement par regroupement d’individus dont les variables sont plus fortement corrélées entre elles que celles du regroupement d’à côté ça fait des cluster c’est un joli terme le cluster de son côté l’apprentissage par renforcement éduque son IA à comprendre constitue son modèle au gré d’une simulation qui renvoie dans les données
D’entrée le résult de l’action de l’agent automatique un robot mettons sur son environnement alors si cette action est bonne on récompense le modèle ce qui lui indique de poursuivre dans cette direction et si l’action est mauvaise on le pénalise de sorte de sorte pardon à ceux qu’ en explore d’autres alors je
Viens de vous parler de robot c’est pas tout à fait un hasard supposons précisément que nous souhaitions construire un robot chirurgical pour qu’il prenne des décisions et entreprennent des actions intelligentes on va le doter d’IA para une bonne idée et je pense que maintenant vous sentez
La différence qu’il y a entre dire Ilia va faire merveille en chirurgie et quelle technique d’IA à disposition va-on utiliser pour concevoir une assistance chirurgicale mécanisée tentons de répondre à cette dernière question alors on voit mal ce que l’apprentissage non supervisé pourrait apporter à notre Robo euh il
Est pas vraiment possible non plus d’appliquer l’apprentissage par renforcement he il faudrait sans doute des centaines de milliers d’incisions létales avant que le bras mécanique apprenne à faire une appendicide correctement on pourrait procéder par règle alors mais est-ce encore de l’a ne reste donc plus que l’apprentissage
Supervisé au final à quoi liya peut-elle servir en médecine sans doute a quitté son côté art pour revenir vers une pratique plus technique et je conclurai cette section sur les définitions de Lya par une caractérisation que j’affectionne faire de l’IA c’est introduire plus d’ingénierie dans les processus les processus médicaux sont
Mécanique physiologique psychologique biologique mais peuvent aussi s’appréhender avec une vision technique qui vous parle de mesures de modélisation de prédiction de guidage de précision tout expédient en chirurgie à laquelle auquel l’IA peut donc prêter ma forte alors j’aborde deè section de de cette communication ok où peut-on ou peut-elle être donc
Utile en santé alors ici plusieurs types de réponses peuvent être fournies la réponse de l’ingénieur que je suis et celle du corps médical que je ne représente pas et que dans une honnêteté démodée mais de bonne àoi je ne donnerai pas je me concentrerai donc sur une
Réponse générique donc dans quel cas Lia peut apporter un un soutien pour rappeler ensuite les grandes promesse de la médecine 2.0 si j’ose dire avant de me préoccuper d’une application naturellement entendu en chirurgie alors la réponse générique que va vous dire l’ingénieur bien que les techniques d’IA s’appliquent partout où
L’on dispose de données en grande quantité et où en particulier la modélisation par apprentissage machine prend un sens le modèle développé s’il est performant permet de prendre alors toutes sortes de décisions sur une grande variété de cas d’usage l’IA sera ainsi utilisable dans tous les domaines médicaux où beaucoup de données sont
Générées par exemple où la presséance de la technologie fait qu’un surveillance par machine est possible et génère beaucoup de data on songe bien sûr à l’analyse d’image c’est l’exemple que j’ai pris comme par hasard à l’instant d’apprentissage supervisé par les réseaux neurones ceci fonctionne très bien parfois avec des performances
Supérieures à l’œil humain autrees domaines possible l’analyse de Big Data o vont-être recherché des corrélations fines au sein de base de données extensive auin d’obtenir une modélisation efficace du phénomène observé ensuite l’informatique qu’on utilise des algorithmes d’AP si ça joue pas bien ça permet de faire des simulations ce qui est fort pratique
Pour étudier le positionnement de molécules ou de protéines dans l’espace et favoriser la recherche de la pharmacopie du futur enfin au-delà des approches de computer vision l’analyse documentaire grâce aux méthodes dit de NLP natural language processing devrait actionner des leviers également car le traitement des données textuelles qui requierèent usuellement de mobiliser des
Personnes pendant longtemps dans sa version rapide et automatique est encore largement inexploitée côté diagnostique des tests ont été réalisés avec le chat GPT mais comme en médecine on attend plutôt des réponses vraies basées sur un raisonnement clinique et ben pour l’instant ça revient un peu à lancer un D pour voir
Si ça peut remplacer efficacement une calculatrice bon des améliorations sont cela dit sans doute à prévoir de là à utiliser chat GPT pour rédiger des tests de médecine à la base des impétrants il y a encore loin même si vous avez peut-être entendu que li chat GPT est
Crédité passable euh à l’examen du barreau américain bon médecine 2.0 annoncege alors si on quitte les science de l’ingénieur pour basculer vers le champ d’application de la santé voici les grands cas d’usage qui sont actuellement envisagés et on retrouve naturellement les 4 p de la médecine 2.0 assisté par Ia parousie paradigme
Paradoxe et paracétamol voilà donc c’était le bit de l’intervention très important d’en prévoir au moins un donc je établi les qu P prédictives personnalisé préventive et participative comm rugby alors faire de la médecine prédictive oui c’est possible sur la base d’un modèle et de donner l’alimentant en RUN pour son inférence
On cherche à aider la détection d’une maladie ou à la surveillance de son évolution Oracle de notre are faire de la médecine personnalisé c’est une des promesses fortes du numérique tout comme dans la sphère du commerce en ligne les donné qui vous concernent doivent permettre une recommandation médicale personnalisée et donc une
Personnalisation du traitement votre singularité est enfin reconnue par la médecine c’est la promesse véhiculée par le jumeau numérique qui combine la personnalisation et la prédictivité en établissant de vous c’est ça la gémélité un modèle réputé exact duquel déduire vos réactions probables face à telle ou telle maladie et traitement alors le
Faire de la médecine préventive pourquoi pas en combinant ces deux pai là si vous êtes capable de simuler assez finement l’ensemble des organes et leur interfonctionnement vous obtiendrez une compréhension globale du corps qui vous permettra non seulement la prescription de traitement personnalisé mais de surcroire ce qui est imaginé derrière
Correspond au fantasme absolu en médecine l’anticipation du risque de la maladie afin de détourner le Fatou et de combattre précocément les facteurs aggravants mieux que de guérir ne pas être malade retrouvant par là la maxime populaire mieux vaut prévenir que guérir bon et à défaut mieux vaut guérir que
Mourir c’est presque la devise des hommes pour ce qui est de la médecine participative ça a l’air chouette dit comme ça ça ressemble à un club de bridge mais j’ai absolument pas le temps d’en parler alors le cas de la chirurgie au sein du domaine médical faisons
Maintenant un focus sur la chirurgie on peut raisonnablement considérer l’ordre chronologique et se rendre compte que les interventions de l’IA peuvent se situer en préopératoire pendant l’acte chirurgical et enfin au niveau du service après-vente si vous passe à expression post-opératoire pour le monitoring le suivi sur le long terme
Après l’intervention bon et là où est attendu la véritable Ia c’est dans la commande autonome d’un robot chirurgical lia comme cerveau d’un corps robotique capable de percevoir comprendre et agir sur son environnement c’est-à-dire sur votre propre corps l’autonomie dont il est question provient de capteurs multiples dont la computer vision ne
Réalise qu’un seul axe de l’ensemble des mesures et des sensations à disposition du chirurgien humain dans cette projection dont on commence à voir poindre les premières réalisations lia interviendrait dès lors comme substitut de l’être humain à la console de commande par un mécanisme qui capterait les flux physiologiques les interpréteraiit prendrait une décision
Et commanderait les bras du robot sur ces différents axes c’est l’idée par exemple de doter de capteur apti les robots pour traduire un sens supplémentaire celui du toucher comme la computer vision que nous venons de mentionner et qui reconnaît mieux les cancers sur les radios qu’un oncologue ces capteurs seraient à même d’effectuer
Des actes de palpation avec détection d’événement qu’un médecin pourrait ne pas sentir artèr tumeur nodules noter qu’on a déjà glissé grammati éalement sur le mode du conditionnel une autre possibilité d’intervention deila moins ambitieuse que la commande robotique consisterait à fournir une aide à la prise de décision décision que le
Chirurgien prendrait non plus sur des mesures physiologiques directes mais sur des résultats calculés par un modèle tout cela né en fait bien entendu dans un seul but celui de procurer un bienfait supplémentaire et supérieur au patient n’est-ce pas alors en ce qui concerne les limites et les risques
Lia fonctionne très bien dans les endroits où elle fonctionne et ce fait ne doit pas être minimisé néanmoins l’attitude béate qui consisterait à croire que liya est intelligente et pourrait remplacer l’homme dans la plupart de ses action ou décision relève à tout le moins d’une croyance erronée j’ai laissé entendre qu’il fallait
Parfois se méfier il est peut-être temps de passer en revue quelques limites du paradigme statistique avant de nous intéresser au risqu induits par liya terminerons cette communication alors de Lia magique aux tristes réalités statistiques des réussites récentes et éclatante de l’IA tiennent au protocole efficace du machine learning
Contrairement à ce que voudrait nous faire croire ces tenants les moins scrupuleux il n’est pas pourtant exemple de limitation qui lui viennent avec le laid de sa mamelle nourricière la science statistique en voici quelquesunes apprendre n’est pas sans biais le modèle ainsi produit par des données qui constituent sa base
D’apprentissage qui doit être soigné faute de quoi une sélection maladroite créer un modèle qui sera pas à même de généraliser correctement autrement dit un mauvais modèle et vous avez un grand classique de la statistique qui enseigne aussi qu’il existe un compromis bi variance toujours présent la donnée confèt certes un ancrage réaliste mais
Ne garantit pas l’accès à une loi au sens des sciences physiques que faire d’un modèle qui empiriquement fonctionne jusqu’ici s far so good d’accord mais auquel on peut se fier en toute circonstance deuxièmement induire n’est pas déduire autre empirisme on aura peut-être connu dans la formation d’un modèle par machine learning la technique
Statistique d’induction une loi mathématique est dérivée d’un échantillon qui est la baseapentissage et appliqué tel quel sur de nouvelles données pour produire ces prédiction attendue et c’est ce queon appelle inférence et il faut bien voir que le modèle est appliqué toute chose égal par ailleurs c’est-à-dire avec un présupposé
Que la loi trouvée conserve sa validité sur la population de données générales avec l’induction on est à l’opposé du mécanisme de déduction plus SR beaucoup plus sûr et qui ne laisse pas place au hasard ou aux probabilités devrais-je plutôt dire 3è point prédire n’est pas expliqué et puisque le modèle appris
Implicitement à partir de fatalement biaisé rappelons que les données c’est une construction très loin de la neutralité donc sur le mode de l’induction ce modèle ne donne pas de compréhension du phénomène dont il est censé rendre compte mais permet seulement de prédire c’est bien mais toute décision prise à partir de ces
Résultats repose donc sur une forme de croyance l’explication étant absente l’efficacité est bien au rendez-vous mais qu’il est encore étonnant de parler d’intelligenceelle artificielle 4e point peut-être plus connu corrélation n’est pas causalité la synthèse du modèle repose sur la mise en corrélation je jeai déjà dit de nombreuses variables
Très nombreuses variables et sa réponse s’appuie sur ces corrélations alors si on vise c’est la seule prédiction c’est suffisant dans la plupart des cas c’estàd si vous avez un un phénomène du type une implication logique a implique B si quand on a A B est toujours dans les parages par c’est une corrélation
Donc si vous cherchez B la recherche de a peut suffire condition suffisante mais pas nécessaire en outre en outre rien ninterdit de penser que B est antérieur à a et qu’il en est même peut-être la cause corrélation n’est pas causalité c’est en parti pour cela que la prédiction n’est pas synonyme de la
Compréhension qui met en jeu la nature causale de l’univers qui pour nous surprendre peut-être abrite aussi en son sein des coïncidences 5è point la carte n’est pas le territoire vutreaphorisme peut-être connu revenons aux fondamentaux les données dont va dériver le modèle ne forme qu’une vision parcellaire de la
Réalité un tout petit morceau quel que soit les hexaocta entrant dans leur composition la trace numérique du monde n’est pas le monde de plus ce que l’on conçoit avec n’est qu’un modèle soit par définition une abstraction une réduction du monde lia du machine learning apparaît alors comm comme une carte au
Carré je dirais qui l’éloigne irrémédiablement du terrain selon les cas d’usage son efficacité n’en est pas forcément moins grande c’est ça qui est redoutable mais cet écart entre le monde et ses représentations ne doit pas être ignoré on vient de le voir même si plusieurs limitations s’attachent à Alya
Celle-ci reste efficace dans les situations où elle est relativement indépendante de l’environnement et indépendante de l’histoire passée en effet son principal mécanisme d’apprentissage repose sur l’induction à partir de données et donc suppose deux hypothèses l’une que le phénomène à l’étude est séparable découplable de son environnement et l’autre de
Stationnarité du 10 phénomène or en chirurgie il existe à l’évidence une forte dépendance aux deux la maladie que l’on tente de soigner est multifactorielle et dépend fortement de la réponse dans le temps de l’organisme considéré on ne se trouve donc pas dans la configuration d’un bon use case chez
Moi pour l’IA maintenant n parlons pas d’une impossibilité majeure nous voulons faire preuve de réalisme le robot des films de science-fiction finira sans doute par exister tout comme la voiture vraiment autonome finira sans doute par exister mais dire que ce sont les technologies d’IA actuelles qui les créeront pour lui permettre de remplacer
Un chirurgien dans quelques années voilà qui me paraît confondre pratique de la Red avec pratique commerciale quelque peu douteuse enfin un handicap majeur qu’aucune technique d’ n’a pour l’instant résolu et qui semble l’éloigner durablement d’une comparaison avec notre intelligence est-ce que certains auteurs nomment sa ccité sémantique le sens des choses lui
Échappe non seulement le bon sens ce sens commun temps partagé qui nous habite instinctivement mais aussi la signification des objets traités par l’ya une radiographie n’est pas un nuancier de gris pour nous autres notre interprétation de son sens est direct idem pour les phrases la syntaxe est
Acquise à chat GPT mais il est évident que la machine ne confère aucun sens à ce qu’elle écrit tandis que la primauté du langage est pour nous autres humain le sens véhiculé et secondairement la forme qui incarne les deux nous apparaissent en relation étroite bien sûr mais ne sont pas pour la machine
Prends la précaution de rajouter à ce jour alors les risques de l’usage de l’IA en santé bien ces limites que je viens de citer sont d’ordre technique fréquemment passé sous silence quand on a à vendre des produits bon et ce sont cependant pas les seuls problèmes auxquels on doit faire face lorsqu’on se
Décide d’utiliser l’IA dans un domaine quel qu’il soit donc je vous propose maintenant de voir sans prétenenstion à l’exhaustivité quelques sujets ayant tras à celui de la santé donc j’en ai quatre avant de conclure premier c’est la préédence de la forme sur le fond j’ai gentiment amené le la chose
Assister le patient ou le médecin par la technologie c’est le mouvement que suit la médecine depuis l’apparition des artefacts techniques et cela semble très bien que la recherche médicale puisse bénéficier d’analyse statistique poussé à condition qu’elle serve un but noble de de traitement médical et non toutes
Les horreurs ou les stupidité que l’on peut imaginer à base d’IA voici qui ne donne absolument rien à redire en revanche la dérive qui consisterait à remplacer la médecine par la médicométrie donc soit finalement le passage d’un diagnostique humain vers une mesure donnée de données pardon fourni par des
Capteurs suivi d’un traitement élaboré comme prise de décision automatisée est-ce un bon succès d’anné à la médecine on vient de le rappeler les données brutes n’existent pas une donnée est une construction d’autre part la mesurabilité de toute chose et leur subséquente optimisation algorithmique par ce truchement n’est qu’un my de plus
Bon je vais peut-être passer quelques citations philosophiques qui fait plaisir à notre modérateur j’avance deuxè point des données personnelles et les données de santé vous l’avez bien compris l’intelligence artificielle ne peut se passer de données c’est au moins un truc qu’il faut retenir de cette communication c’est bien ça si on
Utilise une programmation classique par règle on aura forcément besoin d’acquérir puis de traiter des données sur lesquelles les appliquer et obtenir des résultats intéressants et c’est à for surriv vrai de l’apprentissage machine qui pour sa part ne peut se passer de données non seulement en quantité mais aussi en qualité et c’est
Là qu’intervient le grand crocmen le droit d’usage des données et en particulier celui des données de santé qui sont des données à caractère personnel spécifique la loi informatique et liberté ou le rgpd si vous préférez en cadre en tout cas en France l’usage des données à caractère personnel ce
Volet juridique n’est pas vraiment un frein au traitement disons qu’il constitue un frein formel ou formaliste la vraie problématique concernant l’utilisation des données de santé est éthique parce qu’on a beau parler de consentement éclairé aller le donner quand on est malade la commercialisation des données de santé visant à enrichir
Des sociétés privées par la captation d’information aussi personnelle devrait également motiver la réflexion ensuite d’un point de vue technique he si je reviens un peu ingénieur ce qui se cache derrière cette question c’est la sécurisation de l’accès s à ce type de données et à cet égard les attaques
Souvent réussies de pirates informatique contre des hôpitaux d’ songeur 3ème point prise de pouvoir des non médecins sur la santé donc on le lit depuis quelques années dans la presse hein unea détecté un cancer mieux qu’un oncologue une a servi le café mieux qu’un garçon de café ça c’est formidable cette
Propogontion qu’à l’industrie du numérique de chercher à faire croire que les médecins sont des professionnels efficace et en tout cas moins habile que des machines fait bien entendu partie d’une stratégie commerciale les gfames des start-up infliqué dans la conception de produit à base d’IA alors sans parler
De les remplacer ou de faire mieux queeux la PR la promesse d’IBM une grande firme d’accord euh Watson à la base c’était de faciliter la bibliographie parce qu’un médecin pour rester qualifié devait lire je sais plus combien de milliers de pages par jour et comment sait tous que c’est impossible
C’est donc qu’il deviennent incompétent voilà donc IBM Watson était heureusement là pour les aideren fait les promesses n’ont pas vraiment été tenues mais bon ça ce sont les échecs du passé supposons que le futur nous aide vraiment à améliorer ces machines s’il y a via les types d’application que nous avons cité
Tout à l’heure donc les 4 p devient si bonne que ça les médecins ne vont-ils pas tout simplement être dépassés par notre propre invention collective qui sera alors au manettes probablement les mêmes sociétés multimilliardaires au détriment des professionnels de santé qui deviendront au mieux leur salariés
Avec la crise du covid on a pu voir du moins percevoir qui prenait les décisions en matière de santé publique et qu’il s’agisse d’un élu décidant à peu près seul dans le secret de sa cave ou de grand cabinet de conseil prodigant à Frain non moins grand leur précieuse
Expertise aucune de ces entités ne peut se réclamer de connaissance approfondies en médecine al une fois l’outil Ia amélioré celui-ci devra rester au service au commande du corps médicale la situation inverse serait à mon sens absurde grotesque et dangereuse et donnerait vraisemblablement lieu à un nouveau genre de médecine à deux
Vitesses la médecine automatisée pour les pauvres et la vraie consultation pour les riches et je parlais tout à l’heure de l’application rêvée de l’IA en chirurgie qui était la la visée d’une robotique autonome étant donné le seul paradigme d’apprentissage sensé h on l’ déjà évoqué que c’est l’apprentissage
Supervisé il est clair que lia demandera beaucoup de données et donc il est assez tentant de capter tout ce qu’on peut à partir d’actes chirurgicaux dans le but intentionnellement exprimé de remplacer les chirurgiens car autre fantasme en bardant les chirurgiens de capteur on pourrait enregistrer leurs mouvement leurs décisions à reproduire ensuite
Automatiquement par apprentissage machine un peu comme un robot chef d’orchestre nurait plus besoin de son modèle de chair et de sang et les applications anticipées pour raisons humanitaires genre mieux vaut un robot un chirurgien quand on n a pas comme si les robots allaient être moins chers
Agissent comme des pieds de biche pour prévenir les réticen et quand à la captation de donné comme toujours ceux qui commenc à utiliser à forger ses outils pour faire des opérations en acqu de plus en plus ce qui leur permet d’être plus performant et se constituer leur petit monopole je conclus sur la
Responsabilité pénale mon dernier point l’avantage des médecins c’est que lorsqu’ils commettent une erreur ils l’enterrent tout de suite écrivait Alfonse les circonstances l’air du temps quelque peu changé depuis il est plus très sûr que le praticien malheureux soit durablement à l’abri d’un procès d’ailleurs la même problématique que
L’usage de la jurimétrie en droit se pose en médecine vous savez peut-être des logiciel d’intelligence artificielle sont utilisés aux États-Unis pour prédire les probabilités de récidif criminel cet exemple est connu parce qu’il a été démontré que ces logiciels conduisent à des décisions biaisées une partie des biiais venant précisément des
Donné traduisant une décision deiné qui biaisé des juges et la question qui se pose que le logiciel soit amélioré ou non c’est quel juge prendra la responsabilité de ne pas suivre la préconisation de la machine bien de la même manière quel médecin prendra la responsabilité de ne pas suivre la
Préconisation de la technologie opérer ou non prescrire tel traitement difficile ou pas je choisis de suivre la préconisation et les choses tournent mal vais-je en prison et si je sais que la préconisation de la machine est notoirement stupide quel risque ai-je à transgresser sa suggestion au cas nécessairement exceptionnel où les
Choses ne se passeraient pas comme prévu dans l’hypothèse où il y aurait débat entre l’ya et le praticien la première initiative à mener serait de chercher à le résoudre du côté de la machine ça signifierait qu’on puisse proposer en suce de sa préconisation une explication de cette dernière et on rie ici l’idée
Fort débattue y compris dans dans le monde de la recherche en IA de son explicabilité et nous retrouvons ici matière à un nouveau paradoxe dans le cadre de notre bloc opératoire si l’action qui a été prise ou suggérée par liya est mauvaise et que le chirurgien l’a appliqué quand même explicable ou
Pas il a appliqué et donc l’explicabilité n’est là que pour déterminer à postériori à qui la faute ce qui dénote incidemment une déplaisante asymétrie j’en conclurai là s’il y a a raison et que le chirurgien a fait autrement Arau sur le baet et s’il y a à tort et que le chirurgien l’a
Suivi Aro sur le beet le même car on n’abandonnera pas l’a au motif d’un seul quand bien même regrettable accident bref l’a a toujours raison et le chirurgien qui la suit toujours tort tort de devoir s’en remettre à une machine qui fait mieux que lui tort d’être moins compétent qu’une machine
Tort de suivre la machine lorsqu’elle a tort on espère que le patient n’est pas là seulement pour subir les frais heureusement il y a une forme de précédent dans ce débat celui de la responsabilisation du constructeur d’une voiture autonome mise en circulation le robot chirurgien l’ a d’aide à la prise
De décision même combat merci à [Applaudissements] vous merci Axel euh peut-être qu’on va passer sur les questions ouis je pense qu’on va on va avancer parce que sinon on va déjà voir la consultation médicale endormie donc pas qu’on insiste trop en tout cas merci beaucoup et puis ça me rappelle une
Petite vanne de bloc opératoire quand on demande au chirurgien tu en as pour combien de temps il dit oh un petit quart d’heure 20 minutes ou c’est exactement ça alors on va donc c’est pardonné alors oui tout à fait euh la suite des communication bonjour à tous et
Alors avant de commencer je tiens évidemment à remercier les équipes organisatries ainsi que Cell de l’hôpitalochin qui nous reçoit donc aujourd’hui et la présentation peut-être s’afficher sous vos yeux déc peut-être de alors pour discuter de l’encadrement éthique d’une technique de ma prédictive en anesthésie je vais prendre l’exemple
Sur lequel je travaille de la consultation médicale Endor alors la consultation médicale en consultation médicale ennie une CME est une technique de médecine prédictive élaborée depuis 2018 par l’équipe du professeur fabce valet au sein du département d’anesthésie réanimation de l’hôpital lariboisier les données issues du monitering du monitoré pardon
D’anesthésie sont traités par des algorithmes dit d’intelligence artificielle qui en infire des prédictions de risque de développer des maladies neurodégénératives ou cardiovasculaires tel que la maladie d’alimer ou en l’occurrence un infactus du mioca toujours à l’essai la CME pourrait demain constituer un dispositif médical en l’occurrence un logiciel de
Prédiction qui intégré au bloc opératoire concernerait jusqu’à 12 millions d’anesthésie par an en France en permettant une prévention accrue contre certaines pathologies du cœur et du cerveau la CME valoriserait la spécialité qui est l’anesésiologie en tant que médecine générale de l’hôpital mais ce futur dispositif médical soulève de nombreuses questions éthiques celles-ci
Tiennent aux conséquen de la médecine prédictive ainsi qu’à sa généralisation par l’usage de l’ en santé alors de quoi parleon tout d’abord la médecine prédictive aussi appelée médecine moléculaire contreatlantique est née en France dans le contexte de recherche génétique mais elle dépasse aujourd’hui ce casadre avec la remise en cause de
L’influence des gènes par le milieu en de l’épigénétique la médecine colctive repose plus généralement sur l’utilisation je cite de données d’origine diverse génétique biochimique statistique pour prévoir l’évolution pathologique d’une personne ou d’une population grâce à la connaissance de facteurs de risque auquel elle est exposée ensuite bien que l’IA demeure un
Concept flottant elle est définie en droit dans le secteur de la santé comme un dispositif médical comportant un traitement de données algorithmiqu don la apprentissage a été réalisé à partir de données massives la médecine préditive emplo aussi des algorithmes d’IA qui traitent de données de senté par des capteurs collectés par des
Capteurs en quantité massive en vue d’établir une prédiction de risque or celle-ci repose sur un régime probabiliste et incerertain de sa simple énonciation la prédiction pourrait engendrer par effet noocbo la survenue de la pathologie plutôt que de prévenir son apparition aux antipodes donc des objectifs attendu contrairement à l’effet Nobo à
L’effet placebo pardon l’effet Nobo reste méconnu de la pratique médicale et peut pris en compte par les pouvoirs publics qui plusit à l’Ô de la médecine prédictive étudier dès le 17e siècle le placebo en tant que tel reste appréhendé jusqu’au 20e sous une acceptation négative il est un traitement sans
Principe actif pu volontiers les charlatan pour plaire aux patients selon le TER latin placéré donc il est tissu mais au siècle dernier l’administration le placebo devient la norme comme vous le savez des expérimentations scientifiques le groupe testé reçoit le traitement à l’essai le groupe contrôle se voit administrer un placéo le
Traitement est Probance s’ il améliore l’état de santé des personnes relativement à l’effet placépo c’est-à-dire l’effet psychologique ou psychophysiologique qui peut accompagner l’administration d’une substance faactice mais aussi de tout médicament ou de toute méthode à Visé thérapeutique en 1955 c’est l’anescisiste américain Henry k biter qui est le premier à
Donner une évaluation de cet effet de l’ordre de 35,2 plus ou moins 2,2 %. malgré son incidence considérable les processus à l’origine de cet effet placebo noo reste mystérieux les expliqués nécessiteraient peut-être de répondre à l’énigmatique problème corps esprit laissant indéterminer le lien entre corps et esprit les approches s
Répondre sont ement réparti en deux catégories l’une dualiste qui présume que le corps et l’esprit sont deux états ou substan interagissant l’autre moniste réduisant corps et esprit à une entité soit physique et matérielle soit psychique aucune de ces approches n’apporte de solution toutefois la médecine conventionnelle occidentale hérite de présupposés matérialiste ou
Physicaliste identifiant le plus souvent au niveau moléculaire des principes actifs sur le corps l’ et la diversité du phénomène effet placebo a donc pour première implication éthique évidente de donner au biomédecins convaincu une leçon de modestie souigne la biologiste Chantal en effet tandis que la médecine prédictive issue de la génétique cherche
Par l’épigénétique à intégrer l’influence du milieu avec de nouvelles données elle reste indifférente au facteurs pspologique ou psychophysiologique dont lesffet placé et qui tienent également du milieu de ce paradigme et dans ce paradigme comment un dispositif médical prédictif de risque pathologiquees pourrait-il limiter l’effet nosbau inhérent à sa prédiction à partir de
L’exemple de la CME et son contexte de développement dans une première partie seront proposés par ailleurs pour répondre aux implications herméneutique et méologie de la médecine prédictive dans un deuxème temps quelques principes pour réprimer cet effet n alors la nature de la CME futur dispositif prédictif usant des données
De l’anesthésie générale doit être comprise dans le contexte de développement de la médecine prodctive par actuellement à l’essai la CME pourrait demain relever la qualification juridique de dispositif médical porté par la cher donné massiv et intelligence en santé il PHP central suelec la recherche sur la CME est menée par une équipe pluridisciplinaire
Elle réunit professeur le médecin anesthésiste mais aussi ingénieur mathématicien ainsi qu’un conseiller en éthique des données ici devant vous hop mesdemoiselle mesdames si vous m’entendez là-haut merci bien en effet l’équipe du professeur Valley mène depuis 2018 une étude de cor longitudinale sur les 200 patients par à la Corte de la CME et
Anesthésié pour les besoins de chirurgie orthopédique et neurovasculair 20 % ont développé une pathologie cardiovasculaire ou un déclin cognitif 2 ans après leur intervention ce qui correspondrait aux données existantes dans la littérature pour obtenir cette prédiction de risque les signaux de l’électrencéphalogramme et de la pression artérielle sont croisé F
Pondéré par la dose médicamenteuse administrée aux patients cette technique prédictive issue de l’anesthésie se distingue donc des techniques et des modèles historiques de médecine prédictive fondée sur la génétique en tant que traitement algorithmique ou logiciel de prédiction elle pourrait bientôt constituer un dispositif médical fréquemment utilisé lors des anesthésies
Générales le rôle de l’anesthésiologie au sein de l’hôpital s’en trouverait enrichi apparu au 19e siècle cette discipline qui cherche à s’émanciper du Gon de la chirurgie au bloc opératoire affermirait sa légitimité par la médecine dite inilico c’est-à-dire réalisé au moyen d’un ordinateur aussi selon les recommandations européennes les systèmes
D’IA doivent dès leur conception respecter les principes de l’éthique dit by design alors mathématicien ingénieur concevant formules et algorithmes de la CME d’après les observations cliniques des médecins doivent éviter leur potentiel Billis apprréendé par l’éthique la recherche de la CME en éthique entend l’ORS faire dialoguer chercheurs société civile et citoyens
Sur les enjeux de c’est pourquoi tout d’abord un cycle de C séminaires interdisciplinaires sur l’éthique de l’IA a été organisé en partenariat avec la cha de philosophie à l’hôpital aussi une étude enéthique s’intéressant à la compréhension des risques de la médecine préditive est en cours auprès d’une quarantaine de
Patients de la CME de plus une consultation citoyenne sur laquelle nous reviendrons a permis de récolter la vie de 407 usagers des arrondissements limitrophe pardon de l’hôpital la rivoisière sur les évolutions relatives à la gestion des données de santé enfin les résultats de ces recherches seront publiés dans un livre blanc sur
L’éthique des données de la médecine prédictive présenté lors d’une journée éthique au département d’anesthésie réanimation de l’hôpital la r alors ce future merci beaucoup ce futur dispositif médical se déploie dans un contexte promouvant la médecine prédictive tant par les infrastructures gestionnaires de données que par le développement de l’IA pour la santé des
Changements au niveau collectifs et individuels facilite la mise à disposition des données de santé ou soutient l’innovation en IA la plateforme des données de santé ou s dat hub élargi en 2019 le champ des données réuni au sein du système national des données de santé cette centralisation de nombreuses bases de données simplifie
Leur accessibilité aux acteurs publics mais également privés le HDH est en outre à la tête d’un consortium désigné par la Commission européenne pour préfigurer l’espace européen de données de santé àj les v nationaux les données de cet espace européen seraient utilisé à des fins altwist au sens de la
Proposition d’acte sur la gouvernance des données c’est-à-dire je cite à des fins commerciales ou non commerciales autre que l’objectif initial de la mission de services public pour lesquelles elles ont été générées 2/ TR un espace numérique de santé qui serait à terme contenu par le Data hub a été automatiquement créé pour
Chaque Français et pour chaque française en janvier 2022 sauf opposition de leur part outre le dossier médical partagé il contient des constant de santé issu d’objets connectés des données relatives au remboursement des soins par l’assurance maladie ou encore je cite toutes autres données de santé utile à la prévention la coordination la qualité
Et la continuité des soins par l’étendue des données centralisées au sein du datata et collecté par l’Espace Numérique de santé la médecine prédictive ne se limite plus aux données génétiques elle intègre d’autres données de santé propres à l’imagerie médicale F et cetera aux examens aux consultations aux analyses et bien plus encore les
Maladies mé monogéniqu étant rare la médecine prédictive étudie par les données massives les maladies multifactoriel ou polygénique qui résulte de l’expression de plusieurs gènes et du milieu or cette mise à disposition des données de santé sur laquelle s’appuie la médecine prédictive fait craindre des atteintes évident au
Secret médical qui plus la vie privée en effet le recroisement des données de santé désormais largement accessible permet de réidentifier la personne dont les données par mesur de protection sont pourtant chiffré à cela s’ajoute un effacement du consentement individuel en matière de réutilisation des données de santé et d’usage des dispositifs médicaux
Reposant sur l’IA certes le traitement des données de santé est par principe engpd et également la directive 95 qui précédait prohibé sauf exception notamment si la personne y consent mais depuis le rgpd si les données de santé sont réutilisées pour améliorer les dispositifs médicaux le consentement de la personne n’est plus requis autrement
Dit les dispositifs tels que la CME bénéficient de cette exception au consentement individuel en outre depuis 2021 le patient ne dispose que d’un droit à l’information du recours àia pour sa santé il peut être informé de ce recours ultérieurement à son usage or le le droit à l’information ne suffit pas à
Garantir l’autonomie dans le contexte d’une médecine prédictive et personnalisée pointe avec d’autres paou ve du du pardon en raison des quantités de données collectées les informations communiquées au patient en viennent à manquer de pertinence les découvertes fortuites réalisées ne sont pas nécessairement interprétées par un médecin les personnes sont alors en
Proit à une information qui n’est ni claire ni loyale ni appropriée malheureusement ces changements en matière de gestion des données de santé etia pour le soin semblent s’opérer dans l’ignorance des inéressés selon les résultats exploratoire de la consultation organisée d’octobre 2022 à février 2023 58 % des répondants ne savent pas qu’un
Espace numérique de santé leur a été ouvert 81 % ignorent que les données de santé de cet espace peuvent être mises à disposition d’entreprises privées en vue d’innover ou encore 83 % des personnes interrogées n’ont pas conscience que le consentement du patient à l’usage de pour sa santé n’est pas requis
L’ignorance des intéressés emporte néanmoins des risques individuels mais aussi collectifs les actuels développements de la médecine prédictive comportent des risques pour la personne sur le plan herméneutique et pour la société sur le plan mézologique au niveau individuel tout d’abord les dangers de la médecine prédictive lié au surtraitement à la
Surmédicalisation à l’administration de traitement inapproprié ou encore à l’impact médical à l’impact pardon psychologique de C prédiction sont bien identifié or moins pris en compte par les avancées de cette médecine le risque herméneutique qui tient de la perception de la prédiction par la personne et à son effetbo mériterait de l’être la
Prédiction de risque repose sur les signaux faibles statistiques et ne doit pas être confondu avec un diagnostic elle s’inscrit dans le registre hypothétique du futur mais selon les origines génétiques de la médecine prédictive cette prédiction se confond avec la notion de diagnostic présymptomatique que considérant que la maladie peut être objectivable par les
Anomalies génétiques la médecine prédictive génétique conduit toutefois un paradoxe mise en exer par Catherine dewerer tout se passe comme si l’individu t était considéré comme malade au moment du test génétique en cherchant à l’objectiver sur le plan génétique la prédiction entriine la maladie pourtant nonexprimée au niveau symptomatique le risque pointé par ce
Paradoxe vaut pour la médecine prédictive reposant sur les données en général dont le caractère massif ne fait qu’accroître l’objectivation la prédiction écrase l’avenir selon la fameuse expression attribué au professeur Jean-Claude amenessen et donne un poid démesuré à une forme de prédiction par rapport à l’ensemble des autres événements imprévisibles pire lorsque les
Pathologies prédites ne s’accompagnent pas d’un traitement curatif à l’instar de la maladie d’Alzheimer pour la CME ou d’un traitement palliatif la prédiction devient malédiction au fatalisme prédictif C de l’effroid l’angoisse de la personne dans l’attente de la survenue de la maladie mais dénué de moyens d’y faire face or les conséquences psychologiques
De la prédiction que sont le stress et l’anxiété affaiblissent le système immunitaire de la personne la prédisposant alors au développement d’une pathologie loin de prévenir l’apparition d’un trouble d’un trouble pardon la prédiction pourrait participer donc de celle-ci de sur TR au niveau collectif pardon maintenant passons au niveau
Collectif de sur tr faocbo des prédictions de risque au niveau individuel va se répercuter au niveau collectif et mézologique en 1999 on redoutait déjà que la médecine prédictive n’envahisse l’homme saint au 21e siècle jusqu’à en faire un homme malade et perpétuellement inquiet de son avenir immédiat ou lointain pourtant
Force de constater que les répercussions des prédictions de risque se multiplie qui pluser en génétique d’O d’où ell proviennent progressivement les information révélé lors de test génétiqu s’étend d’une part à la famille possiblement en 2004 obligatoirement depuis 2011 et d’autre part à la personne qui depuis 2021 peut recevoir des caractéristiques génétiques sans
Relation avec l’indication initiale ou avec l’objectif initial du test réalisé par cet élargissement du domaine des prédictions en génétique et les développement de la médecine préditive par les données massiv la société dans son ensemble risque d’entrer dans un nouveau paradigme déterminé car merci beaucoup selon les frouements
De la myologie la réalité n’est pas seulement reçue par l’individu de son environnement sujet et non objet de l’environnement l’individu réagit avec son milieu inversement personne et milieux et environnement sont donc en perpétuelle coévolution c’est ce que redécouvre la médecine prédictive génétique à travers l’étude des maladies multifactoriel polygénique qui suppose
Intégrer des données phénotypiques et environnementales or la généralisation de la médecine préitive et son absence de garde fou à l’effet nosbo pourrait avoir des implications sur la perception collective de l’environnement influençant le milieu et donc les phénotypes par un phénomène autant entretenu la médecine prédictive pourrait accroître les risques
Pathologique d’celé en génétique ou par les données massives en modifiant la perception du milieu au niveau individuel et collectifci les implications néfastes de la prédiction de risque invitent à un encadrement éthique différent du cadre juridique actuel des dispositifs médicaux reposant sur l’intelligence artificielle tel que la CM cet
Encadrement se décompose en deux temps celui de la collecte et celui du traitement des données alors le consentement de la personne à la réutilisation de ces données de santé pour l’amélioration des dispositifs médicaux n’est pas requis par le rgpd en dépit des atteintes potentielles à la vie privée et aux
Liberté résultant du recroisement des données par des tiers assureur employeur et cetera c’est pourquoi en premier lieu la personne doit être dement informée du régime d’incertitude et des risques de la prédiction en second lieu il est nécessaire que toute personne anesthésiée sujette au dispositif de la CME puisse accepter ou refuser la
Collecte de ces données cette collecte est donc conditionnée au consentement explicite de la personne donné par écrit et révocable à tout moment ensuite tandis que le droit à l’information du patient relatif à l’usage de l’IA pour sa santé peut-être postérieur à cet usage sans l’accord de l’intéresser les conséquences d’une
Prédiction de risque par liia T les fait anocbo sont d’autant plus négatif il est donc essentiel que la personne puisse consentir ou non à cette prédiction en amont de tout traitement algorithmique de ses données à cette fin en vertu du droit positif la volonté d’une personne qui demande à être tenue dans
L’ignorance d’un diagnostic ou d’un pronosticque doit être respecté or cette volonté devrait être également respectée en amont de l’établissement de ce pronostic par une prédiction ce consentement explicite au traitement prédictif de ces données par la CME se double ainsi d’un consentement explicite à recevoir ou à refuser cette prédiction
Révocable lui aussi à tout moment et par tout Mo enfin contrairement au test génétiqu les prédictions de la CME doivent se limiter à ses objectifs initiaux pour ne pas alimenter le désarroi de la personne face à des prédiction qui resteraiit inexpliqué finalement l’encadrement éthique de la CME ici présenté constitue un prérequis
Nécessaire pour eniguer lesffet noocbo d’une prédiction de risque en soumettant celle-ci à la volonté de la personne mais ce cadre éthique qui est insuffisant au regard des développement actuel de la médecine prédictive pourtant puisquen effet les données de la CME pourrai demain par altrisme être réutilisé et recroisé avec d’autres
Données par exemple génétique pour répondre à des besoins commerciaux déployant la médecine prédictive l’anesthésiologie devrait donc veiller à ce que des gardesfous soient institué en vue d’assoir par celle-ci sa légitimité dans le registre prédictif de la médecine une chose est certaine perpétuer la réflexion éthique et primordiale merci à tous et tous pour
Votre merci [Applaudissements] beaucoup donc euh Arnaud ALM trival qui est doctor en sciences de l’ingénieur et qui va nous parler de comprendre la conscience de la situation des acteurs au bloc opératoire par des capteurs le regard d’un ingénieur donc après la vidéo on a les capteurs voil
Bonsoir à toutes et à tous donc je m’appelle je suis doctorant en informatique à IMT Atlantique et au maxtitute inellig systems mais pour avoir accès au bloc opératoire je collabore avec la ch innovation et en fait moi ce qui qui m’intéresse c’est l’équipe chirurgicale donc c’est pas seulement chirurgien je
Considère qu’un chirurgie c’est tout le monde lesad lesbes les anesthésistes et également les chirurgiens et en fait dans cette situation critique et très complexe ce qui est intéressant c’est que tout le monde ne possè pas toute l’information en fait le chirurgien est obligé de se concentrer sur la chirurgie
L’anesthés sur les constantes du patient et lesib sur d’autres ASP de la chirurgie parce qu’en fait pour un seul humain c’est beaucoup trop complexe et donc dans cette situation intéresse c’est que il y a des processus pour que toutes ces personnes puissent communiquer et avoir les bonnes informations au bon moment en fonction
De leur responsabilité et et donc tous ensemble ils arrivent à créer une conscience de la situation globale donc en fait la conscience de la situation c’est un concept qui qui dit que pour prendre une décision il faut d’abord observer l’environnement essayer de comprendre ce qui se déroule dans l’environnement pour finalement projeter
Ce qui va se passer et donc le bloc opérate toi pour mettre ce processus en place faut avoir des bonnes informations et donc faire confiance aux différentes personnes qui sont au sein du bloc opérato et ce qui se passe c’est que parfois ça ne se passe pas si bien que
Ça donc il peut y avoir des erreurs des événnements indésirable et selon certaines études ça até montré que justement les personnes considéraient que c’était à cause d’un souci de collaboration une mauvaise communication entre les différentses acteurs du bloc oparatoire mais aussi il y a des facteurs qui peut être individuel une
Personne qui euh a eu par exemple un peu trop de stress et donc a pris une mauvaise décision et surtout n’a pas eu accès aux bonnes information au B moment et donc l’idée c’est que comme cette équipe collabore et qu’il y a des processus mis en place et ben finalement
Si on veut pouvoir comprendre et réétudier la situation et ben on peut s’intéresser à ces processus mis en place qui permettent donc aux différents acteurs d’échanger l’information et donc mon sujet thèse c’est d’étudier prératoire les différences individus donc sur un aspect individuel mais aussi collectif VI différents capteurs don euh
En particulier moi ce qui m’intéresse c’est la voix donc le fait de communiquer des informations entre les différents acteurs la position pour savoir où sont les différentes personnes son du BL oparatoire et pour terminer les données physiologi des personnes en fait c’est pour accéder un peu à l’invisible donc savoir justement
Comment intérieurement ils réagissent aux différentes situations et en fait à partir de ces différents capeurs c’est possible d’extraire des indicateurs de est-ce que les personnes sont silencieuses qui parle à qui euh est-ce que ça parle de ça utilise des mots clés liés à une situation critique et par
Exemple est-ce que toutes les personnes réagissent de la même manière à la même situation en fonction de leur niveau d’expérience donc voilà en fait mon étude au bloc opératoire consiste à étudier tous les individus impliqués dans la chirurgie sauf que aujourd’hui je suis pas réellement venu vous parler
De cette étude je suis plutôt venu vous parler de comment on peut mettre en place une telle étude au sein d’un hôpital parce que bah moi je suis informaticien un doctor en informatique et donc donc c’est pas comme ça qu’on arrive à accéder au bloc opératoire pour
Étudier et donc je vais vous présenter les différentes étapes importantes et quelques conseils si jamais vous vous lancz dans telle recherche pour mener cela au sein d’un hôpital donc la première étape c’est de trouver des collaborateurs parce que en bon informaticien je ne sais pas comment ça
Se passe sur le opératoire je n’ai pas la prétention de dire que je peux vous remplacer ou vous comprendre et donc pour cela faut trouver des collaborateurs médicaux donc la première idée c’est on va contacter différents chirurgien infirmier anesthésiste pour discuter de votre idée enfin de mon idée
Par exemple et donc étudier la faisabilité d’un tel projet donc souvent vous allez réaliser que dans tel hôpital ce pas possi les gens ne sont pas nécessairement intéressés et donc c’est comme ça que vous pouvez aussi découvrir les craintes dansun tel projet et discuter avec ces différents acteurs
Donc dans mon cas ça s’est plutôt bien passé grâce à la cha innovation Popa qui était en fait un contexte facilitant parce que euh ils avaient déjà entendu parler des outils de captation audio et vidéo donc la blackb en ce qui a été présenté justement précédemment et donc
Pour eux il é déjà enain de réfléchir à comment il pouv mettre ça en place au sein du bloc opératoire au centre patiliaire et donc effectivement quand j’arrive en disant je faire une étude sur les différents individus au sein du BL rtoire il sont dit c’est parfait
Parce que nous aussi on va étudier ça mais c’est aussi donc l’occasion de découvrir les cintes de personnel hospitalier qui peut être qui peuvent être contre de tel dispositif c’est surtout important pour un ingénieur un informaticien d’être bien entouré de professionnels de santé parce que pour
Avoir déjà un impact sur le travail vous trouver les bonnes utilisations dans tel dispositif et ben faut discuter avec les différentes personnes et euh surtout euh si on veut s’intéresser à l’impact de la collaboration sur les événements désirables les erreurs chirurgicales quand on ne connaît pas ce qui est une
Erreur chirurgicale donc on n’ pas la conscience de comment se déroule la chirurgie comment détecter ça comment comprendre ce qui se passe bah à ce moment-là justement l’idée c’est de collaborer avec des gens qui ont les connaissances et donc de chacun apporter euh ses compétences pour construire un projet
Qui fait sens et qui a réellement un intérêt donc après il y a aussi quelque chose qu’il faut bien prendre en compte que comme on vient chacun dans d’univers différents et ben on a pas forcément les connaissances et faut vraiment pas avoir l’impression de tout savoir d’utour donc
Par exemple un ingénieur dirait mais non mais je connais mieux la chirurgie que toi ou un chirurgien qui pourrait avoir des idées un peu LFO informatiquement et se dire bah tout est faisable je l’ai vu sur internet euh ensuite une fois qu’on a les bons partenaires euh l’idée c’est de voir
Comment on peut mettre ça en place et donc forcément il y a des petites contraintes techniques l au cl opératoire parce que c’est un environnement stérile les gens ils peuvent y rester des heures et des heur et donc on veut faire en sorte que ce soit le plus confortable possible et que
Ça n’impacte pas du tout la chirurgie et passent donc en fait par rapport à ça l’idée c’estit que comme les capteurs sont embarqués en fait ils sont situés dans des zones qui par définition n’ont pas besoin d’être stérile par exemple le mass de chirurgienne est considéré comme
Re stérile ou si c’est sous la Casa et B à ce momentl ce ne doit pas du tout rentrer en contact avec le patient mais sinon l’idée c’était que comme la charbopa travailler avec car syntax donc c’est ce projet de M le vidé management
Au S du BL opératoire et ben c’est à ce moment-là qu’on a aussi réalisé que l’innovation au sein d’un grand hôpital peut devenir très compliqué euh en fait ce qui s’est déroulé c’est queah voilà il y a une entreprise donc qui installe un système de vidé management
Et qui doit s’intégrer a d’un hôpital qui a déjà un système informatique existant des règles et en fait les deux univers de l’entreprise et de l’hôpital se rencontrent avec des intérêts différents des connaissances différentes et donc des une grande quantité d’interlocuteurs qui do se mett d’accord
Et souvent ce qui arrive c’est que bah les promesses te techologique mettre un peu de temps à apparaître à Cuse de petits soucis de communication de collaboration entre différents acteurs donc c’est vraiment important de bien réfléchir aux fond interlocuteurs vouz mettre en place un projet et ensuite euh
Ce qui est très important finalement c’est que bah une fois qu’on a le l’équipement pour enregistrer et ben il faut avoir l’accord pour enregistrer et donc là il y a différentses personnees don faut obtenir l’accord déjà pour bien faire les choses au sein d’un hôpital faut demander au DPO donc déléguer à la
Des données pour découvrir les règles en terme de rgpd les règlementations de l’hôpital qui peuvent être bien supérieur au rgpd et donc à ce momentl remplir des documents dans lesquels vous stipulez que vous allez protéger les données du patient du personnel hospitalier comment vousz les traiter quels sont les risques comment vous
Pouvez limiter les risques donc une bonne quarantaine de pages bien bien réfléchir en Amon et surtout donc avec tout cela vous allez découvrir ce que vous ne pouvez pas faire avec les données et et donc par exemple en France les ce n pas on ne peut pas en
L’hôpital ne peut pas avoir de contrat avec des entreprises non européennes donc par exemple si vous vous dites bah très bien je veux analyser des données en utilisant chat GPT ce n’est pas possible parce qu’en fait vous pouvez tout simplement pas mettre en place de contrat entre l’hôpital et Open pour
Dire bah voilà vous allez traiter les données s la bonne réglementation là en fait ça peut entraîner des des petits soucis mais c’est c’est ouvert à la discussion c’est que par exemple si vous prenez des petites captations audio et vidéo et ben souvent ce qui peut poser
Problème c’est que les gens ils ont envie d’être foutés ou ils ont envie euh qu’on anonymise leur Boix qu’on retire leur données privé et malheureusement c’est ce ça veut dire mais pour le moment les meilleurs algorithmes sont de l’autre côté de l’Atlantique et donc ça veut dire queah si on peut pas
Contractualiser avec ces personnes et ben on est un peu aussi limité donc en fait l’idée de pas pouvoir contactuiser ave eux c’est que d’un point de vue de l’hôpital c’est de se dire B ils ont déjà les meilleurs algorithmes on va pas en plus le risquer de leur donner des
Données ce qui est complètement vrai mais d’un autre côté ça peut être un frein pour l’implémentation en fait de nouvelles innovations pour la recherche en France et sinon ce qui est très important c’est que à partir du vous allez enregistrer des personnes il faut demander l’accord d’un comité éthique
Donc en fonction de si vous faites des recherches sur des recherches interventionnel ou non interventionnel et ben vous pouvez vous adresser à différents comités mais donc en fait je recand déjà de faire des consultations méthodes réglementaires avec l’Unité de Recherche Clinique ce qui vous permet en fait de découvrir ce que vous pouvez
Faire parce que c’est très important de bien faire les choses et même si parfois par exemple pour les recherches interventionnelles il n’y a pas d’obligation légale de passer par un comité éthique et ben c’est quand même important d’un point de vue éthique et finalement la dernière étape c’est que vous avez installé votre
Système de vidéosurveillance donc vous comptez enregistrer ces personnes et donc c’est le moment oùà vous allez leur demander est-ce qu’on peut vous enregistrer malheureusement souvent ça arrive un peu tard dans le procè c’estàd qu’il y a des personnes qui décident de faire des recherches et puis finalement les personnes qui vont être enregistré
Pe pas forcément au courant ou mal informé et donc souvent appliquer à la fin d’un projet ou sinon ce qui peut aussi se passer c’est que si ça fait longtemps que vous avez installé votre système de vidéosurveillance ben avec leover il y a une nouvelle personnes qui
Arrivent et pour elle ce n’est pas du tout enfin c’est pas habituel en fait d’être enregistré et il y a pas nécessairement quelqu’un pourrait expliquer l’intérêt du projet expliquer que bah non en fait ça peut pas se retourner contre ces personnes ou autrees donc c’est vraiment très important en fait d’informmer les
Individus en fait dès que vous voulez concevoir quelque chose qui a s avoir un impact sur des personnes c’est quand même un peu important de les les consulter mais sinon une fois que ce qui est intéressant c’est que quand même une fois que vous les informez bien et B
Très souvent ils sont vraiment très volontaires et euh et en fait une aide considérable parce que si vous avez bien fait les choses justement avec les comités éthiqu et autres vous avez un cadre protecteur donc en fait vous pouvez un peu inster une certaine confiance parce qu’ils ont leur leur consentement
Éclairé ils sont au courant de l’intérêt des études et donc en fait ils ont aussi l’impression d’être écouté d’être important et surtout en fait il s valoriser parce que l’intérêt c’est justement d’arriver de dire B non en fait on n pas là jusqu pour éer chirurgien le chirurgien n’est supérieur
À vous on est là pour tous vous étudier parce que vous êtes une équipe en fait il y a pas que l’attaquant il y a aussi le goal le défenseur voilà vous faites un travail ensemble et on n’est pas là pour considérer quelqu’un est plus important qu’un autre et donc quand vous
Arrivez que vous leur dites que bah en fait si vous les enregistrer c’est pour accéder à la vérité ter1 de pouvoir enfin leur dire que bah s’ils ont des hypothèses que selon eux dans certains cas ça se passe mal à cause de ça et ben vous pouvez leur dire bah maintenant
Vous avez les données en fait pour supporter euh vos idées et donc ça c’est vraiment le dernier aspect le plus important euh sinon justement ça c’est par rapport aux études que je mène avec les différents participants d’être enregistré complètement et donc effectivement en fait c’est l’audio quoi c’est ils ont
Peur en fait que leur vie privée se retrouve dans les enregistrements ou la vidéo donc par exemple les données physiologiques ou de position au sein du blog ne pose vraiment pas de problème en tout cas très peu de personnes donc peut-être à certains moment ça peut être intéressant de réfléchir vraiment donné
Dont on a besoin et on a besoin de tout enregistrer ou sinon quels sont les processus qu’on peut mettre en place pour limiter c’est les effs les effets nocifs des technologies donc par exemple leur dire en fait l’audio on garde pas on garde que les passages qui mentionnent
Des mot clés chirurgicau où les vidéos sont anonyisé donc voilà ça c’est un peu pour tout vous présenter les petit remerciement parce que pour une fois j’essaie d’être dans les temps je sais que c’est qu’il est très tard donc d’abord th Carol collaborateurs chirg qui pas et la merveilleuseès compliqué de PIR faire
Desist toujours là pour souvenir merci beaucoup et aussiit les participants le personnel hospitalier qui AC de participer à de telles recherches et bon les références pour les personnes intéressées et pour terminer en fait quelques recommandation si jamais vous avez une idée de projet vous voulez mettre en place et ben tout d’abord euh
Discutez avec les personnes que vous comptez impacter parce que c’est bien d’avoir des idées mais c’est mieux de vérifier sielles vont réellement avoir un impact et sinon une fois que vous savez que ça aura un intérêt ben réfléchissez bien aux interlocuteurs que vous allez devoir solliciter pour tout
Mettre en place pour le faire légalement et éthquement et donc je résumerai ça en soyez un acteur du changement et non un décideur pour que vraiment en fait votre projet soit porté par toute une équipe et non pas soit ressenti comme une idée qu’on vous a imposé en vous imposé vutre éipe
Et donc [Applaudissements] voilà