Depuis quelques années, l’intelligence artificielle (IA) s’impose comme une technologie majeure, transformant progressivement les pratiques sociales, économiques, scientifiques et politiques. Son essor soulève toutefois une question centrale. Peut-elle réellement s’articuler avec les exigences de la démocratie, le respect des processus de décision collective et le jugement politique ? C’est à cette interrogation que Frank Escoubès, fondateur de Bluenove, essayiste, et Olivier Sibony, professeur à HEC Paris et à Oxford, ont consacré leur échange lors d’une rencontre-débat (organisée à la librairie Le Delta à Paris).
Des définitions de l’IA
Pour Frank Escoubès, il existe une confusion fréquente entre l’IA analytique et l’IA générative. L’IA analytique est la plus répandue en termes d’application, notamment dans les secteurs économiques ou dans le domaine médical (big data), tandis que l’IA générative, fondée sur le texte, est plus récente, son usage ayant fait une percée dans le grand public en 2022 (avec ChatGPT). Le terme intelligence artificielle peut être vue comme un « péché originel », car il repose sur un faux ami: le terme « intelligence » signifie également « renseignement » et donc l’accès à la donnée. L’IA se rapproche aujourd’hui bien davantage du traitement de l’information que d’une intelligence dotée de conscience et de capacité de raisonnement. Autrefois, cette IA (dite symbolique) fonctionnait sur la base de règles qui tentaient de reproduire de manière mimétique les opérations du cerveau humain. Depuis l’essor de l’IA connexionniste, ces règles ne sont plus nécessaires : les mots sont agrégés en fonction de leurs corrélations et de leur proximité d’usage. L’IA est ainsi devenue probabiliste et statistique, une sorte de « géographie à mille dimensions ».
Le succès de l’IA repose donc sur une accumulation massive de données et sur la détection de régularités dans leur ordonnancement réciproque. La réponse à la question « que dois-je faire ? » varie donc fortement selon les contextes.
La confiance ne doit pas être aveugle
Pour Olivier Sibony, l’IA accomplit certaines tâches précises mieux que l’humain, par exemple dans le trading ou dans le diagnostic médical, où elle traite les données bien plus rapidement et efficacement que ne pourrait le faire une personne. Elle tend aussi à remplacer certaines fonctions expertes. Toutefois, elle ne possède ni l’intuition ni la réflexion propre à ces métiers, ce qui peut engendrer des erreurs d’appréciation. En substance, partout où il y a des données exploitables en grande quantité, l’IA peut surpasser l’humain en matière d’analyse. Toujours pour ce professeur à HEC, le problème est que l’utilisateur ne vérifie pas toujours ce que produit l’IA. On affirme souvent que l’humain doit garder le contrôle : ce raisonnement est néanmoins discutable car il s’applique différemment selon les registres d’usage de l’IA. Car si un système est objectivement meilleur que nous dans certains domaines, il serait rationnel de lui accorder notre confiance. Mais cette confiance ne doit pas être aveugle. Pour des enjeux importants, le principe de vérification doit primer (« human in the loop »). Et dans certains domaines, ou pour répondre à des questions complexes, multifactorielles, il vaut mieux ne pas l’utiliser si on estime l’humain (individu ou équipe) plus compétent ; par exemple, pour un avis médical ou une prescription précise dans le domaine de la santé.
Déléguer le jugement à l’IA amoindrit-il notre esprit ?
Pour Olivier Sibony, la perte ou la délégation de certaines compétences n’est pas nécessairement un problème, elle peut même constituer un progrès. L’histoire des techniques, relève-t-il, montre que déléguer des capacités à des outils est inévitable et qu’il est illusoire de vouloir y résister. Pour Frank Escoubès, l’IA est très utilisée dans les démocraties pour faciliter l’accès à l’information, lutter contre la désinformation, analyser des politiques publiques, faciliter le travail parlementaire, dans un contexte où nos démocraties traversent une crise cognitive : difficulté à s’informer correctement sur un problème complexe et systémique, affaiblissement des efforts médiatiques d’acculturation du public et baisse de l’attention des citoyens. Dans ce contexte, des outils comme ChatGPT ou Claude peuvent renforcer la compréhension des enjeux, souvent de façon très pédagogique. L’information peut en effet être personnalisée selon l’angle souhaité par l’utilisateur, ou selon son style d’apprentissage. L’IA générative peut aussi favoriser l’inclusion des citoyens dans le débat public, notamment en simplifiant des concepts complexes ou en produisant des artefacts multimédia (vidéos, podcasts, etc.).
L’IA doit rester un outil d’aide à la décision, sans déborder de sa fonction
Cependant, ajoute-t-il, nous n’avons pas encore pleinement intégré toutes les limites de ces technologies. L’IA excelle dans la synthèse et la reformulation mais elle ne doit pas prendre des décisions démocratiques de façon autonome. Elle ne peut pas être tenue « responsable » de la décision politique et elle ne doit pas « invisibiliser » le processus démocratique, lequel consiste à rendre le citoyen acteur de la décision qui le concerne. La démocratie valorise en effet davantage le processus que le résultat. Or, les systèmes informatiques tendent à opacifier l’expérience du service public, comme en témoigne par exemple l’abstraction que représente pour le citoyen le système de protection sociale. Pour Olivier Sibony, l’exemple de Parcoursup illustre également ces tensions : les objectifs du système n’ont pas fait l’objet d’un débat public approfondi. Les arbitrages existent mais ils n’ont pas été discutés dans des cadres démocratiques de type conventions citoyennes. Le manque de confiance provient alors d’un déficit de transparence et de participation à la mise en place de la procédure technique.
Le problème de confiance envers l’IA
Olivier Sibony précise qu’on considère souvent qu’un humain doit rester derrière chaque décision mais, si un système est objectivement meilleur dans son analyse de la situation, refuser de s’y fier engage également une responsabilité. La véritable question est bien celle de la confiance dans des systèmes dont les concepteurs eux-mêmes ne comprennent pas entièrement le fonctionnement ou les explications d’un résultat. Or, dans la vie quotidienne, nous faisons confiance à des dispositifs restés relativement opaques (le métro, le transport aérien, les médicaments…). La différence est que l’IA, dont les modalités d’application sont relativement récentes, ne bénéficie pas d’une « infrastructure de confiance » (certification, audit, etc .).
Quelles sont les valeurs de l’IA ?
Pour Frank Escoubès, parmi la multiplicité des valeurs applicable à une collectivité ou à une société, de droite comme de gauche, il faut opérer des choix, qui relèvent du politique. Or, comme le soulève l’Encyclique du Pape Léon XIV, l’IA n’a ni morale, ni conscience. Les valeurs qu’elle semble intégrer sont en réalité exprimées par des humains (experts, éthiciens, comités de sages). Dans ce contexte, Olivier Sibony pose la question centrale : « Ces valeurs ont-elles été réellement débattues ? Quelles priorités établir ? » Il existe nécessairement des variations culturelles importantes dans la hiérarchisation des valeurs, humaines et sociétales. Par exemple, l’expérimentation lancée par le MIT – baptisée « Moral machine » – a testé, au volant d’une voiture autonome virtuelle, les valeurs implicites de trois millions de personnes. La France tend ainsi à privilégier la protection des femmes et des enfants, là où le Japon favorise les aînés et l’Arabie Saoudite les hommes et les garçons. L’intégration de valeurs externes dans les systèmes d’IA reste donc un enjeu complexe, et ne peut être réalisée de manière opaque, sans aucun débat public.
Frank Escoubès souligne en outre que confier des décisions à l’IA en matière démocratique fait prendre le risque du relativisme et de la moyennisation. L’IA se concentre sur les récurrences fortes et ne sait pas associer de l’importance à une information rare (anomalie). Or, en politique, il est essentiel de prendre en compte les minorités et les signaux faibles qui participent pleinement du jeu démocratique. L’abolition de la peine de mort ne s’est pas basée sur des séries statistiques mais sur des cas d’exception jugés inadmissibles.
L’IA peut aussi favoriser des modalités d’engagement citoyen et jouer le rôle d’un « GPS civique »
Cependant, l’utilité de l’IA en amont de la démocratie (vecteur d’information et d’acculturation) peut aussi se révéler déterminante en aval, en soutien à l’engagement citoyen. L’IA permet par exemple de cartographier les causes d’engagement ou d’intérêt général dans un territoire donné, afin de connecter les citoyens et les initiatives recensées. Elle joue alors le rôle d’un « GPS civique », aidant les individus à s’impliquer concrètement dans des actions de proximité. L’IA pourrait également permettre de faciliter considérablement l’organisation des conventions citoyennes à vaste échelle, rendant la représentation plus inclusive. Frank Escoubès souligne à ce titre l’importance du passage de l’opinion brute à l’opinion construite, que seul un processus délibératif sur temps long permet de produire. L’opinion brute est instable et peu légitime car elle peut changer rapidement au gré de l’actualité. L’opinion construite repose en revanche sur l’agrégation de points de vue et l’expression d’un discernement collectif.
Enjeu clé, la gouvernance de l’IA n’est pas encore considérée comme une priorité pour les citoyens, qui s’interrogent d’abord sur son usage pratique et son intérêt à court terme. La question centrale reste pour autant celle de l’acceptabilité sociale : quels sont les territoires de notre vie publique que nous sommes prêts à confier à l’IA ? L’enjeu de toute société, y compris quand elle est doté des meilleurs outils, est et restera certainement de (re)créer du lien social et humain, surtout dans un contexte où la technique et la numérisation des échanges n’ont jamais été aussi développés et potentiellement perturbateurs.
Antoine ARNOUX
(30/06/2026)
