note General note
Intelligence artificielle : prévenir les risques d'atteintes aux droits fondamentaux
Par Vie Publique.fr | "Les gouvernements et entreprises ont de plus en plus recours à l’intelligence artificielle (IA), que cela soit pour permettre l'accès à des applications ou à des lieux par authentification biométrique ou pour réaliser des diagnostics médicaux automatisés. Face à cette situation, la Commission nationale consultative des droits de l’homme (CNCDH) vient de rendre, le 7 avril 2022, un avis sur l’impact de l’intelligence artificielle concernant les droits fondamentaux(nouvelle fenêtre) ."
- La nécessité d'un cadre juridique
- "La CNCDH émet donc une vingtaine de recommandations pour la mise en place d'un cadre juridique contraignant , qui soit en mesure de garantir le respect des droits fondamentaux."
- La nécessité d'interdire certains usages de l'IA
- "l’utilisation de systèmes “ reposant sur des composants subliminaux que les personnes ne peuvent pas percevoir , ou exploitant les fragilités des enfants et des personnes vulnérables en raison de leur âge ou de leurs handicaps physiques ou mentaux " ;
- la notation sociale (" social scoring ") qui consiste, pour les autorités publiques, à évaluer des personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles ;
- l’utilisation de systèmes d’identification biométrique à distance " en temps réel " (reconnaissance des visages, des empreintes digitales, de la voix...) dans les espaces publics, à des fins répressives."
- La nécessité de reconnaître certains droits
- Le droit à une intervention humaine
- " La commission appelle aussi à reconnaître des droits aux personnes ayant fait l’objet d’une décision impliquant un algorithme , notamment un droit à une intervention humaine dans le processus de décision"
- Le droit au paramétrage "des critères de fonctionnement du système d’IA."
- Le droit à une intervention humaine
diversity_3Linked organization(s)
Linked notebook(s)
Numérique et données - Enjeux, leviers et stratégies
file_copy 218 notesAuthor(s) of note
Contact the authorLinked community
Numérique et données
More informationPublished
May 9, 2022
Edited
July 18, 2023, 8:38 p.m.
Licence
Alert: a part or the whole of this content might not be the property of the author or authors of the note. If needed, find out about conditions for re-use.
Visibility
public
Quote this note
Équipe En commun. (2022). Intelligence artificielle : prévenir les risques d'atteintes aux droits fondamentaux. Praxis (consulted July 12, 2024), https://praxis.encommun.io/en/n/fsnJSooK7IjjtlVBalpUvMXl_W4/.
shareCopy