Depuis quelques années, l’intelligence artificielle (IA) s’impose comme une technologie majeure, transformant progressivement les pratiques sociales, économiques, scientifiques et politiques. Son essor soulève toutefois une question centrale. Peut-elle réellement s’articuler avec les exigences de la démocratie, le respect des processus de décision collective et le jugement politique ? C’est à cette interrogation que Frank Escoubès, fondateur de Bluenove, essayiste, et Olivier Sibony, professeur à HEC Paris et à Oxford, ont consacré leur échange lors d’une rencontre-débat (organisée à la librairie Le Delta à Paris).
Des définitions de l’IA
Pour Frank Escoubès, il existe une confusion fréquente entre l’IA analytique et l’IA générative. L’IA analytique est la plus répandue en terme d’application, notamment dans les secteurs économiques, tandis que l’IA générative est plus récente (avec par exemple ChatGPT). L’IA générative peut être vue comme un « péché originel » de l’intelligence, reposant d’abord sur l’accès à la donnée. Elle se rapproche aujourd’hui bien davantage du renseignement que d’une intelligence dotée de conscience et de capacité de raisonnement. Autrefois, il fallait définir des règles pour repérer des idées rares dans de vastes corpus de textes. Depuis l’essor de l’IA connexionniste, ces règles ne sont plus nécessaires : les mots sont agrégés en fonction de leur cooccurrence. L’IA est ainsi devenue une sorte de « géographie à mille dimensions ».
Le succès de l’IA repose donc sur une accumulation massive de données et sur la détection de régularités. Concernant l’IA symbolique, sa conséquence pratique est qu’on ne devrait pas demander à ChatGPT de prendre des décisions. La réponse à la question « que dois-je faire ? » varie fortement selon les contextes. Autant l’IA est performante pour collecter des données et générer du contenu autant elle l’est beaucoup moins pour décider.
La confiance ne doit pas être aveugle
Pour Olivier Sibony, l’IA accomplit certaines tâches précises mieux que l’humain, par exemple dans le trading, où elle traite les données bien plus rapidement que pourrait le faire une personne. Elle tend aussi à remplacer certaines fonctions expertes. Toutefois, elle ne possède pas l’intuition et la réflexion propre à ces métiers, ce qui peut engendrer des erreurs. En substance, partout où il y a des données exploitables, l’IA peut surpasser l’humain. Toujours pour ce professeur à HEC, le problème est que l’utilisateur ne vérifie pas toujours ce que produit l’IA. On affirme souvent que l’humain doit garder le contrôle, ce raisonnement est néanmoins discutable car il s’applique différemment selon les registres d’application de l’IA. Car si un système est objectivement meilleur que nous en des domaines, il devient rationnel de lui accorder notre confiance. Simplement, cette confiance ne doit pas être aveugle. Pour des enjeux importants, le principe de vérification doit primer. Et dans certains domaines, ou pour répondre à des questions complexes, multifactorielles, il vaut mieux ne pas l’utiliser si on estime l’humain (individu ou équipe) plus compétent ; par exemple, pour un avis médical ou une prescription précise dans le domaine de la Santé.
Déléguer le jugement à l’IA amoindrit-il notre esprit ?
Pour Olivier Sibony, la perte ou la délégation de certaines compétences n’est pas nécessairement un problème, elle peut même constituer un progrès. L’histoire des techniques, relève-t-il, montre que déléguer des capacités à des outils est inévitable et qu’il est illusoire de vouloir y résister. Pour Frank Escoubès, l’IA est très utilisée dans les démocraties pour l’accès à l’information. Or, celles-ci traversent une crise cognitive : et d’évoquer notamment la difficulté à s’informer correctement, l’affaiblissement des efforts médiatiques et la baisse de l’attention des publics. Dans ce contexte, des outils comme ChatGPT peuvent renforcer la compréhension des enjeux. Aussi, l’information peut être personnalisée selon l’angle souhaité par l’utilisateur, ce qui constitue un progrès cognitif. L’IA générative est d’ailleurs déjà mobilisée dans certains travaux parlementaires. Elle peut aussi favoriser l’inclusion (des citoyens dans le processus de débats publics), notamment en simplifiant des concepts complexes.
L’IA doit rester un outil d’intelligence collective, sans déborder dans sa fonction
Cependant, ajoute-t-il, nous n’avons pas encore pleinement compris toutes les transformations du langage induites par ces technologies, qu’il soit verbal ou non verbal. L’IA excelle dans la synthèse et la reformulation mais elle ne doit pas être en situation de pouvoir prendre des décisions démocratiques. Elle est performante pour atteindre des objectifs fixés alors que la démocratie consiste précisément à redéfinir collectivement (et régulièrement) ces objectifs. L’IA ne peut donc pas déterminer ce que veut un corps social en délibération. Elle doit rester un outil d’intelligence collective, sans déborder dans sa fonction.
Le problème de confiance envers l’IA
Olivier Sibony précise qu’on considère souvent qu’un humain doit rester derrière chaque décision mais, si un système est objectivement meilleur, refuser de s’y fier engage également une responsabilité. La véritable question est bien celle de la confiance dans des systèmes novateurs dans la mesure où même leurs concepteurs ne comprennent pas entièrement leurs fonctionnements ou leurs effets. Dans la vie quotidienne, nous faisons confiance en des dispositifs restés relativement opaques (le métro, le transport aérien, les médicaments…). La différence est que l’IA, aux modalités d’application relativement récentes, n’est pas encore suffisamment certifiée, encore moins encadrée. Il manque aujourd’hui la mise en place d’une véritable infrastructure de confiance.
Quelles sont les valeurs de l’IA ?
Pour Frank Escoubès, dans la multiplicité des valeurs applicable à une collectivité ou une société, il faut nécessairement opérer des choix, qui relèvent du politique. Certaines valeurs ne doivent pas être déléguées à l’IA car celle-ci n’a pas de morale et doit donc fonctionner sous supervision humaine. Les valeurs qu’elle semble exprimer sont en réalité intégrées par des communautés d’experts (notamment des éthiciens). Olivier Sibony pose la question: « mais ces valeurs ont-elles été réellement débattues ? Quelles priorités établir ? » Il existe nécessairement des variations culturelles importantes dans la hiérarchisation des valeurs, humaines comme sociétales. Par exemple, en France, avec une forte et croissante valorisation de la protection des femmes et des enfants. L’intégration de valeurs externes dans les systèmes d’IA reste donc un enjeu complexe, et d’avenir.
Frank Escoubès souligne que confier des décisions à l’IA comporte des risques, notamment face à des situations atypiques qu’elle pourrait mal interpréter. En démocratie, il est essentiel de prendre en compte par exemple les minorités et les « outsiders », qui participent pleinement au processus collectif. La démocratie valorise davantage le processus que le résultat. Or, les systèmes informatiques tendent à invisibiliser les processus, y compris dans des domaines importants comme celui de la protection sociale. Pour Olivier Sibony, l’exemple de Parcoursup illustre ces tensions : les objectifs du système n’ont pas vraiment fait l’objet d’un débat public approfondi. Les arbitrages existent mais ils n’ont pas été discutés dans des cadres démocratiques comme cela a pu être fait pour d’autres sujets, par exemple avec des conventions citoyennes. Le manque de confiance a pu provenir d’un déficit de transparence et de participation en amont de la mise en place de la procédure technique.
L’IA peut aussi favoriser des modalités d’engagement citoyen
Cependant, l’IA peut aussi favoriser l’engagement citoyen. Elle permet de cartographier les causes d’engagement ou d’intérêt et de connecter les initiatives, aidant les individus à s’impliquer concrètement. Elle pourrait également permettre d’organiser des conventions citoyennes à vaste échelle, rendant la représentation plus inclusive. Frank Escoubès indique d’ailleurs qu’il faut « distinguer l’opinion brute de l’opinion construite ». La première est instable et peu légitime car elle peut changer rapidement. La seconde repose sur un processus délibératif et plus solide. Pour autant, l’IA n’est probablement pas le meilleur outil pour représenter directement la volonté collective.
Enjeu important, la gouvernance de l’IA n’est pas encore considéré comme une priorité pour les citoyens, qui s’interrogent d’abord sur son usage pratique et son intérêt de court terme. La question centrale reste pour autant celle des valeurs : sommes-nous prêts à accepter des décisions potentiellement moins guidées par la conscience et la réflexion humaine ? L’enjeu de toute société, y compris quand elle est doté des meilleurs outils, est et restera certainement de (re)créer du lien social et humain, surtout dans un contexte où la technique et la numérisation des échanges n’ont jamais été aussi développés et dont certains usages peuvent être excessifs et certains effets perturbants.
Antoine ARNOUX
(30/06/2026)
