Une question de confiance en l'intelligence artificielle

Un article qui souligne une fois de plus la pertinence d'explirer le potentiel de la fiducie d'utilité sociale pour la protection des données numériques qui nous concernent. Pour rappel voici les travaux initiés actuellement par le TIESS, et une invitation au Webinaire du 3 décembre prochain.

"Les débats parfois vigoureux qui ont entouré le développement des applications de recherche de contacts pour la COVID-19 ont montré à quel point l’utilisation de l’ intelligence artificielle et des données massives en santé ne passe pas comme une lettre à la poste. L’acceptabilité sociale constitue un enjeu de l’essor de ces technologies.
...

Selon Pierre-Luc Déziel, professeur de droit des technologies de l’information à la Faculté de droit de l’Université Laval, l’acceptabilité sociale dépend en grande partie du niveau de confiance que les citoyens placent dans leurs gouvernements, dans les entreprises et dans les établissements de recherche qui se servent de ces données et en encadrent l’usage. « Un lien de confiance se construit en faisant preuve de transparence et en établissant un dialogue avec la population, estime M. Déziel. On doit expliquer clairement les bénéfices et les risques de ces approches afin d’offrir un vrai choix aux gens.

Rien ne sert de dorer la pilule, croit-il. L’usage des données massives en santé présente des risques. Il importe de bien les analyser et d’indiquer aux citoyens à quoi serviront les données, comment elles seront récoltées, anonymisées, conservées et protégées, qui y aura accès, quelles interventions sont prévues en cas de problèmes, etc."

---

Jerry Espada 2 juin 2021 à 16:21

Selon Alexandre Castonguay et Guy Paré (HEC Montréal) ainsi que Cécile Petitgrand (UdM) : "Le Canada a besoin d’une stratégie nationale pour accélérer le déploiement de l’IA en santé".
https://theconversation.com/le-canada-a-besoin-dune-strategie-nationale-...

En considérant le manque de personnel soignant au Canada, en plus des enjeux entourant la gestion des soins de santé d’une population vieillissante, l’importance d’améliorer l’efficacité du système de santé canadien apparaît comme une nécessité. À cet égard, l’IA, propulsée par la recherche et des développements technologiques récents, constitue aujourd’hui un levier incontournable pour faire face à ces enjeux. Cependant, le processus de déploiement menant à une IA perçue comme utile et performante est souvent semé d’embûches. Les hôpitaux et cliniques médicales à travers le pays ont besoin d’un accompagnement soutenu qui va bien au-delà du développement de solutions technologiques.

---

Jerry Espada 6 mai 2021 à 10:49

"L’IA gagne du terrain en santé. Comment les ordres professionnels peuvent-ils l’encadrer ?" (Catherine Régis et Marco Laverdière).
https://theconversation.com/lia-gagne-du-terrain-en-sante-comment-les-or...

En collaboration avec des ordres professionnels de la santé au Québec, un groupe de travail sur les enjeux normatifs liés à l’IA pour les professions de la santé et des relations humaines a été mis en place. Ce groupe a notamment pour mandat de proposer de nouvelles normes de pratique à établir pour guider ces professionnels. Il a mis au point la "boussole de l'IA responsable" (repère normatif) afin de permettre au système professionnel québécois de s’ajuster aux effets – tant les bénéfices que les risques – qui découlent de l’IA.

Parmi les risques : les biais et la discrimination à l’égard de groupes d’individus sous-représentés dans les données utilisées pour entraîner l’IA ou en raison de certains préjugés des concepteurs d’IA, qui se répercutent dans les paramètres de l’algorithme.

L’un des enjeux souvent cités est celui de la « boîte noire ». Lorsqu’un système d’IA génère une recommandation diagnostique ou thérapeutique, alors que le professionnel n’est pas en mesure de comprendre le fonctionnement de l’algorithme sous-jacent, comment doit-il composer avec ses obligations déontologiques ? Comment peut-il justifier ses interventions suivant les normes cliniques applicables et donner une information adéquate au patient ?

https://www.ledevoir.com/societe/science/590343/sante-une-question-de-confiance