Éric Sadin : l'asservissement par l'Intelligence Artificielle

Je vous propose ici un petit résumé d'une écoute de fin de semaine du podcast Thinkerview "Éric Sadin : l'asservissement par l'Intelligence Artificielle".

L'invité est très remonté contre l'IA. Ses propos sont très incisifs et malheureusement peu nuancés, mais viennent alimenter un contre-discours de plus en plus nécessaire dans le débat public sur ces questions hautement politiques.

-----------

Prémisse de départ

Il faut aborder ces questions en mettant de côté la sempiternelle équation risque/avantage (qui occulte beaucoup de choses et opère souvent une analyse réductrice) pour mettre en lumière ce qui se passe de majoritairement structurants.

Aspects de définition

• L’IA ce sont des systèmes d’expertises toujours plus puissants à travers lesquels l’humain a érigé une instance à lui dire la vérité en toute chose.
• Machine learning : Capacité de corrélation et de prise en compte continuelle des résultats précédents via des boucles de rétroaction.

Évolution historique

• Le numérique depuis la 2e guerre mondiale consiste essentiellement en une collecte, un stockage et une indexation de l’information (permettant grosso modo une manipulation plus aisée de l’information).
• Nouvelle fonction du numérique depuis 10 ans: expertiser/interpréter des états du réel et révéler des choses qui étaient invisibles auparavant à notre propre conscience.
• Derrière cette nouvelle fonction s’immisce une puissance injonctive de la technologie à divers niveau (incitatif, impératif, prescriptif (comme en médecine), coercitif (ex: domaine militaire), etc.).
• La technique est maintenant douée de parole et nous dit la « vérité ».
• Mais la technique en tant que champ indépendant n’existe plus, elle est devenue totalement inféodée aux intérêts économiques, et au monde de l’industrie. La pluralité de la technique disparait ainsi au profit d’une voie unique tracée par les intérêts économiques.
• On est aujourd’hui face à l’avènement d'un « technolibéralisme" où tous nos comportements sont captés.
• La nouvelle guerre économique et industrielle se résume à la conquête du comportemental et à la collecte d’un maximum d’information sur nos comportements pour ensuite mieux les orienter sur la « bonne voie ».
• Il ne s’agit pas d’une surveillance comme le système de crédit social chinois, il s’agit de nous dire/indiquer ce que nous « devrions » faire. Cela participe à l’instauration d’une vision extrêmement utilitariste de la société et du monde.

Analyse de la tendance actuelle

• L’humanité a ici deux choses fondamentales à perdre :
  • Le libre exercice de notre faculté de jugement
  • Le respect de la pluralité humaine
• On ne parle pas ici du peuple, mais de la figure humaine. Nous sommes des êtres d’appréhension multisensorielle du réel. C’est ça la conquête humaniste depuis le 18e siècle.
• Ce qui se joue ici c’est la pression à divers niveaux sur la décision humaine. Le cours des affaires humaines, la façon dont nous agissons, nos décisions individuelles et collectives sont appelées à être de plus en plus pressées, encadrées, déterminées, en vue soit de satisfaire des intérêts économiques, soit de rationaliser la société où le moindre défaut serait évacué au vu de notre imperfection fondamentale…
• L’IA, c’est le cheval de Troie du technolibéralisme.

Résumé du positionnement critique d’Éric Sadin

• Dès qu’il y a des systèmes qui nous dessaisissent de notre pouvoir d’action, de notre pouvoir de jugement, de notre pouvoir de décider librement (c'est à dire sans subir de pression) du cours de nos affaires individuelles et collectives - C’est inacceptable.
• Nous sommes arrivés à ériger des systèmes qui vont éclairer de leurs lumières les "bonnes actions" à entreprendre continuellement.

Exemples

• Recrutement

Depuis 2 ans, des systèmes d’IA dialoguent via des chatbots avec des candidats et décident quels candidats il faut choisir. Ces systèmes d’IA sont réductionnistes. On ne peut pas tout réduire à de la donnée.

• Monde médical

En passant d’un paiement à l’acte à une dynamique d’abonnement, l’IA permet l’avènement de plateformes de diagnostic et de prescription automatisée qui forment un intermédiaire direct entre tout un chacun et l’industrie pharmaceutique.

• Il faut arrêter avec la fable de la surpuissance du diagnostic automatisé (l’aura accordée à ces systèmes), comme si l’humain n’arrêtait pas de faire erreur sur erreur, car c’est loin d’être le cas.
• Le nouveau paradigme appelé ici est fondé sur l’interprétation en temps réel de tous nos comportements, et leur orientation c’est-à-dire le guidage des activités humaines en vue soit de répondre à des intérêts privés soit pour aller vers les systèmes de crédit social (comme en Chine).

Conseil de lecture

Georges Orwell et Hannah Arendt

Selon Hannah Arendt deux choses conditionnent le politique :

• L’autonomie de jugement, faculté à évaluer singulièrement les choses.
• La pluralité de l’humain, la société dans toute sa pluralité, dans ses intérêts divergents.

https://www.thinkerview.com/eric-sadin-lasservissement-par-lintelligence-artificielle/