Intelligence artificielle : prévenir les risques d'atteintes aux droits fondamentaux

Par Vie Publique.fr | "Les gouvernements et entreprises ont de plus en plus recours à l’intelligence artificielle (IA), que cela soit pour permettre l'accès à des applications ou à des lieux par authentification biométrique ou pour réaliser des diagnostics médicaux automatisés. Face à cette situation, la Commission nationale consultative des droits de l’homme (CNCDH) vient de rendre, le 7 avril 2022, un avis sur l’impact de l’intelligence artificielle concernant les droits fondamentaux(nouvelle fenêtre) ."

• La nécessité d'un cadre juridique
  • "La CNCDH émet donc une vingtaine de recommandations pour la mise en place d'un cadre juridique contraignant , qui soit en mesure de garantir le respect des droits fondamentaux."
• La nécessité d'interdire certains usages de l'IA
  • "l’utilisation de systèmes “ reposant sur des composants subliminaux que les personnes ne peuvent pas percevoir , ou exploitant les fragilités des enfants et des personnes vulnérables en raison de leur âge ou de leurs handicaps physiques ou mentaux " ;
  • la notation sociale (" social scoring ") qui consiste, pour les autorités publiques, à évaluer des personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles ;
  • l’utilisation de systèmes d’identification biométrique à distance " en temps réel " (reconnaissance des visages, des empreintes digitales, de la voix...) dans les espaces publics, à des fins répressives."
• La nécessité de reconnaître certains droits
  • Le droit à une intervention humaine
    • " La commission appelle aussi à reconnaître des droits aux personnes ayant fait l’objet d’une décision impliquant un algorithme , notamment un droit à une intervention humaine dans le processus de décision"
  • Le droit au paramétrage "des critères de fonctionnement du système d’IA."

https://www.vie-publique.fr/en-bref/284824-intelligence-artificielle-un-risque-pour-les-droits-fondamentaux