La fin de l’individu

Si l’intelligence artificielle ne menace pas directement l’existence d’Homo sapiens, elle risque bien, en déployant des techniques d’optimisation, de prédiction et de manipulation à grande échelle, de remettre en cause le fondement même de nos Lumières : l’idée d’un individu autonome et responsable. L’IA se répand dans les différents domaines de la société et dans nos vies. Elle risque de transformer en profondeur le fonctionnement de nos démocraties, l’art, la science, l’économie, la justice et même les relations humaines jusqu’aux plus intimes.
« Doit-on donner les pleins pouvoirs à cette hydre vorace, la laisser influencer nos choix au nom d’un “bien commun” dont elle serait la seule à même d’établir la pertinence, se goinfrant sans fin de ces fameux “cookies” ou s’abreuvant de statistiques pour s’améliorer de manière autonome ? » Quand nous lui aurons confié tous nos secrets, habitudes de consommation, coordonnées bancaires ou GPS, goûts dans tous les domaines et l’intégralité de nos carnets d’adresses, quand nous lui aurons délégué des tâches toujours plus vitales, quand nous ne serons plus que paramètres et variables noyés dans le grand tourbillon numérique, serons-nous toujours libres ? Le Big Data et l’intelligence artificielle risquent-ils de niveler les différences et uniformiser les sociétés ? Voilà quelques-unes des interrogations au cœur de l’ouvrage qui nous questionne sur la place de l’individu dans le monde de l’IA et sur notre libre arbitre.

Entre espoir et inquiétude

En 1996 se produisit un événement symbolique majeur : l’ordinateur Deep Blue d’IBM battit Kasparov aux échecs. Pourtant, l’IA porte mal son nom. Elle résulte d’algorithmes, elle n’est pas intelligente, elle ne pense pas plus qu’elle n’aime, ni ne souffre, ni ne s’énerve de la répétition des questions qu’on peut lui poser, ni ne produit de connaissance nouvelle. Elle n’a pas d’humour. Elle est incapable d’intégrer la notion de finalité. L’IA est une illusion : elle reproduit un résultat de l’intelligence humaine, mais pas son processus. Elle calcule, mais ne comprend pas. Elle utilise des mots selon des probabilités, mais sans en comprendre le sens.
Si ChatGPT ne pense pas, il menace cependant la pensée, le libre arbitre et l’autonomie du sujet. Le développement de l’IA tend à éliminer nos choix individuels. Elle connait nos goûts profonds mieux que nous : pourquoi ne pas lui abandonner la gestion de notre bonheur ? « Pour Tocqueville, l’égalité était le moteur des démocraties ; la fin du libre arbitre caractérise l’ère de l’AI », dit Gaspard Kœnig.
Facebook prévoit mieux nos comportements que nos meilleurs amis. De plus en plus de décisions sont remises à l’IA (l’être humain doit en prendre 35 000 par jour). Des systèmes en Chine mesurent le niveau de stress des travailleurs et indiquent le moment de pause, le moment de faire pipi. Des études ont montré que chez ceux qui utilisent le GPS, certaines zones de l’hippocampe s’atrophient par rapport à ceux qui lisent la carte routière. Que deviendra notre cerveau si de plus en plus de nos décisions sont confiées à des algorithmes ? Comment grandit-on dans un monde où les mots sont choisis pour nous ?
Utiliser l’IA, c’est aussi comme se mettre une cloche autour du cou pour montrer à tout moment où on est. Les logiciels visent à créer de l’addiction, avec des systèmes de récompenses (likes) et de compétition (nombres de followers). Actuellement, on dépose chaque jour 1 milliard de photos sur Facebook qui en devient ainsi propriétaire. Rappelons-nous que les concepteurs de l’IA visent à faire du profit plutôt que le bien des individus…
Il faudra choisir entre l’efficacité et le respect des données personnelles. DuckDuckGo est un moteur de recherche plus respectueux, mais moins performant. L’IA est de plus en plus utilisée dans les sciences, en économie. Elle pourrait être utilisée en justice, mais des études ont montré que les algorithmes chargés d’évaluer les risques de récidives se faisaient au détriment des Noirs.
Le développement de l’IA posera la question de la responsabilité. Qui pourrait reprocher à une voiture autonome d’avoir brulé un feu rouge ? Quand deux voitures autonomes se heurteront, les IA analyseront les responsabilités respectives et règleront le sinistre en quelques secondes. L’IA est conservatrice et ses algorithmes risquent d’influencer les électeurs. Déjà, les réseaux sociaux minent les démocraties. Internet renforce les ressemblances bien plus qu’il n’accueille les différences. L’IA est un moyen plus efficace que la guerre de dominer l’autre. Au Moyen Âge, le pouvoir était dans les mains de ceux qui possédaient les territoires ; aujourd’hui il est dans les mains de ceux qui possèdent les data.

Un usage différent selon les endroits

En Chine, l’IA est vue comme un moyen de donner au pays la première place. Elle est aussi un moyen de contrôler la population, que cela semble peu gêner. Là où l’on sépare prospérité et liberté, l’IA servira plutôt la première. Confucius, contemporain de Socrate, enseignait le respect de l’autorité et était méfiant par rapport à la sphère privée. En Europe, où on tient plus au respect de la vie privée et où il y a encore des forces résistantes pour défendre le bien commun, on est à la traîne et on légifère. En Israël, qui compte la plus grande proportion de scientifiques au monde, l’IA est au service de l’armée et de la défense. Aux États-Unis, le développement de l’IA est souvent le fruit d’expériences d’adolescents attardés, parfois dans le garage de leurs parents.
En résumé, l’IA risque de contrôler nos comportements et même d’orienter nos pensées les plus intimes, elle risque d’étouffer la créativité et l’esprit critique, de réduire la spontanéité, l’imprévu…
Dans un article du British Medical Journal¹, l’ex-éditorialiste Richard Smith revenait sur un essai d’Ivan Illich – La Convivialité, écrit en 1973 – qui appelait à maximiser les « outils conviviaux » qui nous libèrent, comme le vélo, et minimiser les « outils industriels » qui nous asservissent et nous tuent, notamment dans le domaine des soins de santé. Illich avertissait déjà qu’« un outil peut échapper au contrôle de l’homme, devenir d’abord son maître et finalement son bourreau ». « Les mêmes technologies sur lesquelles nous nous sommes appuyés pour favoriser la croissance ont également détruit le climat, créé des inégalités, menacé le travail, miné la politique et perturbé la communauté », enchaine Kœnig. Les outils conviviaux sont faciles à utiliser, accessibles à tous, leur utilisation n’est pas obligatoire et n’empêche pas les autres d’en faire usage. Les outils industriels, au contraire, sont conçus avec une signification prédéterminée, ne peuvent pas être utilisés par tout le monde et donnent à un groupe de personnes le pouvoir sur les autres. Illich identifiait six façons dont les outils industriels non conviviaux bouleversent l’équilibre de la vie, conduisent à une polycrise et peuvent conduire à la destruction de l’humanité. Parmi ceux-ci, la dégradation de la biosphère, le monopole radical, la concentration des privilèges sur quelques-uns, l’obsolescence, la frustration. « Presque du jour au lendemain, prédisait-il il y a cinquante ans, les gens perdront confiance non seulement dans les grandes institutions, mais aussi dans les prescriptions miracles des prétendus gestionnaires de crise. » Comme tout cela s’applique bien à l’IA et au monde d’aujourd’hui !
Sans aller jusque-là, veillons à ce que l’humain reste maître de l’IA et ne se soumette pas à l’emprise des algorithmes. « Il y a […] un paradoxe si l’on souhaite utiliser les IA génératives d’une manière critique et responsable : cela demande une expertise et du temps de vérification. La force de l’IA est la force de son utilisateur, sa faiblesse également, expliquait dans Le Soir Anne Catherine Simon, chroniqueuse et professeure de linguistique à l’UCLouvain. […] Il serait plus juste de la nommer intelligence superficielle, intelligence imitative ou renseignement artificiel. Plus juste, mais moins vendeur. »

1. R. Smith, “The dangers of industrialisation: why we need to rebuild a convivial society”, BMJ, 2024;387.