Les enjeux éthiques de l’intelligence artificielle : se poser les bonnes questions

Même si l’intelligence artificielle (IA) appliquée au domaine de la santé ne date pas d’hier, les questions éthiques sont plus que jamais d’actualité. Celles-ci ont d’ailleurs été au cœur d’une table ronde lors de l’événement INNOVE-ACTION qui s’est tenu du 13 au 15 novembre dernier.

L’IA au service de l’humain

L’IA est garante de succès, d’économies de temps, d’argent et de ressources. Plus que tout, elle apporte une immense contribution pour la santé des populations que ce soit dans le domaine de l’imagerie médicale ou pour réaliser des interventions chirurgicales moins invasives.

Elle augmente les capacités humaines à traiter une information de plus en plus riche. Parfois, elle dépasse même la prise de décision des spécialistes. Un exemple concret : les machines peuvent, à partir d’une image (classification optique), déceler en temps réel un problème. De là, le médecin détermine, selon les résultats obtenus, s’il faut procéder à une biopsie au même moment.

Pour le Dr Michaël Chassé, médecin spécialiste en médecine de soins intensifs au CHUM, et Me Éric-Alain Laville, avocat au CHUM, il faut néanmoins se poser des questions quant à l’intégration de l’IA aux soins de santé :

• Accepte-t-on qu’une machine se trompe?
• Qui est responsable en cas de diagnostic erroné? L’hôpital? Le concepteur? Le médecin?
• Sommes-nous prêts à dire que la machine est meilleure que le spécialiste?

Il ne faut jamais oublier que les machines travaillent de pair avec le personnel soignant; elles ne les remplacent pas. C’est au professionnel que revient la décision finale du diagnostic ou du plan de traitement d’un patient.

L’IA au service des professionnels

L’IA constitue une valeur ajoutée dans le travail des cliniciens. Selon le Dr Chassé, il faut bien comprendre que « les machines apprennent ce qu’on leur montre. Plus nous continuerons d’intégrer de l’information, plus les machines deviendront meilleures. Il faut alors bien les entraîner et les formater pour que les conclusions soient positives. C’est aux professionnels d’assurer la même rigueur scientifique aux machines qu’ils le font pour eux. Elles devraient toutes faire l’objet d’un processus d’évaluation et d’approbation par le gouvernement. » Le rôle des professionnels est de protéger le patient. Faire les choses trop rapidement et sans préparation est parfois et souvent plus néfaste.

« Il faut admettre que, dans un contexte d’urgence, il est impossible pour le professionnel de la santé de tout voir et de tout capter en temps réel. Ces systèmes peuvent potentiellement l’aider dans la prise de décision. » L’IA vient augmenter la confiance du professionnel dans sa prise de décision.

« Une étude de l’Université Harvard a démontré que lorsque le médecin suivait le traitement que le système disait de faire, la survie des patients augmentait, et ce, de façon exponentielle. », ajoutait-il.

Un développement éthique et encadré de l’IA

Pour certains, l’intelligence artificielle en santé est risquée et manque d’encadrement éthique et juridique.  Il est vrai que l’IA comporte certains risques et amène des questionnements: l’équilibre entre l’accès aux  données en santé de qualité en grande quantité, la transformation des métiers, la traçabilité des prises de décisions, etc. En 2017, le gouvernement du Québec a mis en place le comité d’orientation de la grappe en intelligence artificielle. L’un des aspects de son mandat est d’étudier les impacts de l’IA sur le plan éthique, économique et social en vue de proposer un cadre de développement responsable. Au Québec, trois entreprises font leur place en intelligence artificielle : MILA, IVADO, Scale IA. Montréal est reconnue mondialement comme l’une des villes de référence en matière d’IA.

« Le CHUM a décidé d’être un chef de file en innovation et surtout en ce qui a trait à l’avancement de l’IA pour la société de demain dans le domaine de la santé », soulignait Pierre Boivin, président et chef de la direction de Claridge et président sur le conseil d’administration de MILA.

Sur le plan juridique, Me Laville rappelait l’existence de balises légales notamment en ce qui a trait à la protection de la vie privée, possible en IA grâce à la dépersonnalisation et l’anonymisation des données.

L’IA aura un impact sans précédent sur l’histoire de l’humanité et sur les aspects de notre mode de vie et de nos institutions. Il est donc essentiel de réfléchir dès maintenant aux enjeux éthiques que soulèvent ces technologies afin d’assurer un développement responsable.