Qui pense quand je pense ?

Le développement de l’intelligence artificielle oblige à s’interroger sur l’autonomie de notre pensée quand on sollicite un système pour nous aider à réfléchir.
Dehors, il fait plus de 40 °C. On étouffe dans toute la France. Des pompiers sont morts depuis le début de l’été. Quelque 42 000 hectares ont brûlé en quinze jours. J’interroge un chatbot IA : « Que faire face au dérèglement climatique ? » La réponse, quelques secondes plus tard… Urgence planétaire, bien sûr, mais attention : l’emploi, le coût pour les ménages, la compétitivité. Tout est pesé, soupesé, rangé, une réponse funambule de l’IA, en équilibre sur un fil politique dont on ignore qui lui a demandé de le tendre.

Quelqu’un, quelque part, a décidé que c’était la bonne réponse à me faire. Deux colonnes, mon interrogation révoltée, tempérée par les chiffres, la complexité réduite à un simple tableau.

En note, la réponse ajoutait que la France ne représente que 0,9 % des émissions mondiales de CO2, selon le Global Carbon Budget. Factuel. Mais placé dans la réponse, ce chiffre légitime une logique d’impuissance : ne plus manger de bœuf, recycler ses emballages, passer au véhicule électrique seraient des gouttes d’eau dans l’océan de la lutte contre le changement climatique. L’action politique internationale, la seule dont l’échelle corresponde au problème, n’apparaît nulle part. Pour celui qui regarde sa récolte sécher sur pied, sa forêt brûler, la réponse est pire qu’hostile : elle est résignée, à sa place. Le cadrage n’est jamais neutre. La machine ne le comprend pas.

Le soir même, je pose la même question à un autre modèle. Sa réponse évoque les limites planétaires et le consensus scientifique. L’emploi n’apparaît qu’en note de bas de page. Ni l’un ni l’autre ne ment : c’est la construction du raisonnement qui diverge, en amont. Divergence invisible pour quiconque n’utilise qu’un système à la fois.

Récemment, j’ai relu un texte que j’avais écrit avec l’aide d’un modèle. Un paragraphe fluide, bien tourné. Et là : impossible de me souvenir s’il vient bien de moi. Est-ce ma pensée, ou celle de la machine, reformulée jusqu’à ce que je la reconnaisse comme mienne ? Je cherche des traces. Une transition trop lisse, là où j’aurais laissé un accroc ? Mes phrases à moi ont des aspérités, la trace du doute, de la reprise, du mot cherché trop longtemps. Quand tout coule trop bien, quelque chose manque. Mais quoi exactement, et depuis quand ?

C’est la question que je n’arrive plus à poser sans malaise. Non pas : l’IA est-elle dangereuse ? Mais : où commence ma pensée et où commence celle du système avec lequel je m’aide à penser ?

Je ne dramatise pas. C’est un flottement normal, le genre qu’on écarte d’un haussement d’épaules parce qu’on a autre chose à faire. On s’y habitue. Et c’est en fait redoutable.

Après quelques semaines en compagnie d’un chatbot, la façon dont nous formulons nos questions change. On s’adapte à ce que la machine comprend bien. C’est nous qui nous conformons au cadre, insensiblement. L’IA place certaines pensées à portée de cerveau et les autres restent accessibles, mais au prix d’un effort de plus en plus grand. On perd progressivement le territoire, le substrat que la pensée explorait pour se former : les détours, les impasses fécondes, les associations que personne n’avait prévues. On se « creuse moins la tête ». Le résultat est fluide, et ne surprend plus personne.

La démocratie suppose qu’un citoyen puisse rendre compte de ses raisons, les exposer, les entendre contestées, en changer. Que se passe-t-il quand on ne peut plus retrouver le chemin de son propre raisonnement ? Un jugement sincère mais intraçable est-il encore un jugement démocratique ? Quel impact, quand nous sommes des millions à juger, voter, décider, chaque jour, avec des outils dont nous ne savons pas ce qu’ils ont choisi de nous montrer et ce qu’ils ont écarté ?

Qui a décidé que telle ou telle information était du « bruit » ? La langue arabe pense autrement que l’anglais : son système de racines trilitères engendre des champs sémantiques que le moule anglophone aplatit. En dessous, la darija, l’arabe marocain de la rue et de la famille, est aplatie à son tour par l’arabe standard que les modèles privilégient. Pareil pour le breton, l’occitan, le créole antillais. À chaque fois, c’est un contexte dans lequel se forme la pensée qui disparaît.

En Europe, récemment, un gouvernement a été renversé parce qu’un algorithme avait appris à discriminer pendant des années avant que quiconque ne s’en aperçoive. Une élection a été annulée après qu’un réseau de faux comptes sur les réseaux sociaux a fabriqué l’illusion d’un mouvement populaire.

Effacement des langues, discrimination silencieuse, manipulation électorale, symptômes différents d’une même structure, que j’appelle le féodalisme cognitif. Les seigneurs de ce système possèdent les conditions de notre pensée. Nous cultivons leurs terres en croyant travailler les nôtres.

Personne n’a le pouvoir de décréter la vérité. Mais la véracité, la vérification des conditions de la vérité, oui. Qu’est-ce qui permet à chacun de vérifier par lui-même ? AFP Factuel, Les Décodeurs, Viginum s’y emploient en France, et ils n’y arrivent pas. Trop peu de ressources, trop de contenu, pas la bonne architecture. Une institution sera toujours débordée. En juin dernier, un étudiant américain a mis en ligne InTruth, une extension de navigateur. Elle vérifie ce que disent les politiques pendant qu’ils parlent. Verdict à l’écran et sources cliquables, avant la fin de la phrase. Chacun peut l’installer, sentinelle veillant à la véracité de l’information qu’il consomme. L’artisanat héroïque existe ; manque le passage à l’échelle.

On ne choisit plus de ne pas penser avec ces outils. Travail, quotidien, administration, santé, tout passe par le numérique. Nous devenons des penseurs hybrides, pas par choix mais par glissement. Reste à apprendre à danser avec l’IA plutôt que la piloter ou la subir. À retourner le miroir en lui demandant de casser ce qu’elle vient de produire, imposer le délai, comparer les modèles, repérer la complaisance quand elle approuve trop vite. Et apprendre à rester présent quand tout pousse à l’abandon, à la délégation…

Dans la Silicon Valley, en 2010, j’entendais un discours similaire au sujet des réseaux sociaux. Personne n’a su dire exactement quand ça a basculé. Pour l’IA, le seuil politique est déjà franchi. Ce qui est en jeu cette fois, ce n’est plus seulement le cadrage de l’information, c’est celui de la pensée, des conditions de sa formation, de son indépendance et de sa liberté. 

Benoît Bergeret travaille dans l’IA depuis 1987. Cofondateur du Hub France IA, membre du groupe d’experts en IA de l’OCDE, il enseigne à l’ESSEC, à Tsinghua et à l’UM6P. Il publie la lettre « Fault Lines: AI tectonics and the shifts beneath the noise » sur Substack. Son second livre Qui pense quand je pense ? vient de paraître aux éditions
Chemins de tr@verse.

Qui pense quand je pense ? de Benoît Bergeret, ed. Chemins de tr@verse 144p., 10,35 €...