Ou comment quelques milliards de calculs peuvent donner l’illusion de la pensée.

Dans le premier épisode, j’ai volontairement laissé une question en suspens. Honnêtement, avant d’utiliser l’IA et même aux débuts, je me posais les mêmes questions que tout le monde. Mais depuis que je travaille sur cette série d’articles, je vois mieux, je comprends plus, j’intègre plus efficacement les réalités du sujet. Une intelligence artificielle n’a ni enfance, ni souvenirs, ni émotions, ni conscience. Elle n’a jamais admiré un coucher de soleil, attendu la naissance d’un enfant, connu l’angoisse d’un examen ou la joie d’une victoire. Et pourtant, elle est capable de parler de toutes ces choses avec une étonnante aisance.

Comment est-ce possible ? La réponse qui vient spontanément est simple : « elle comprend ». C’est sans doute le plus grand malentendu entourant l’intelligence artificielle. Car avant de savoir si une machine comprend, encore faudrait-il savoir ce que signifie réellement… comprendre.

Comprendre, est-ce simplement connaître des mots ?

Faisons une petite expérience. Vous fermez les yeux quelques secondes, surtout, ne pensez pas à un éléphant rose, soyons honnêtes, vous venez presque tous de voir apparaître un éléphant rose dans votre esprit et pourtant, il n’existe pas. Votre cerveau n’a pas seulement reconnu deux mots. Il a immédiatement fabriqué une image. Il lui a donné une couleur, une forme, peut-être même une démarche un peu maladroite. En une fraction de seconde, il a construit une petite scène qui n’existait nulle part ailleurs que dans votre imagination.

Voilà ce que fait naturellement un cerveau humain, les mots ne sont pas seulement des sons ou des lettres, ils ouvrent des souvenirs, réveillent des émotions, convoquent des images, des odeurs, des sensations. Ils nous relient à notre histoire personnelle autant qu’au monde qui nous entoure.

L’intelligence artificielle, elle, ne voit absolument rien, ni l’éléphant, ni la couleur rose, ni votre sourire. Elle ne possède aucune image intérieure et pourtant elle est capable d’en parler. C’est là que commence le véritable mystère.

Les mots sont des voisins.

Lorsque nous lisons une phrase, nous cherchons spontanément son sens alors qu’une intelligence artificielle procède autrement. Pour elle, les mots ressemblent davantage à des habitants d’une immense ville. Certains vivent très près les uns des autres, d’autres ne se rencontrent presque jamais. Prenons un exemple : le mot chat apparaît souvent à proximité de chien, animal, moustaches, croquettes, canapé, ronronner. En revanche, il apparaît beaucoup plus rarement à côté de satellite, cathédrale ou locomotive. À force d’observer des milliards de phrases, la machine finit par construire une immense carte invisible. Sur cette carte, les mots qui parlent des mêmes sujets deviennent voisins, non parce qu’elle comprend leur signification, mais parce que les humains les utilisent souvent ensemble. Petit à petit, cette géographie des mots finit par ressembler étonnamment à la géographie de nos idées.

Le contexte change tout.

Si nous prenons maintenant un mot bien français comme avocat et si je vous dis simplement « J’ai acheté un avocat », vous pensez probablement au fruit. Mais si j’écris « Mon avocat plaidera demain devant la cour d’appel », plus personne n’imagine une salade. Pourquoi ? Parce que votre cerveau utilise immédiatement le contexte. L’intelligence artificielle fait presque la même chose. Lorsqu’elle rencontre le mot « avocat », elle regarde les mots voisins comme « plaider », « tribunal », « juge », « audience ». Les probabilités changent, la machine n’a jamais mis les pieds dans un palais de justice, elle ne sait pas ce qu’est une robe noire, elle ne connaît ni le stress d’une plaidoirie, ni l’attente d’un jugement. Mais elle sait qu’à côté de « tribunal », le mot « avocat » désigne presque toujours un juriste. Ce n’est pas une compréhension du monde mais du contexte linguistique. La nuance paraît subtile et elle est pourtant immense.

Une bibliothèque sans lecteur

Imaginez maintenant une bibliothèque gigantesque avec des millions de livres, des journaux, des encyclopédies, des romans, des articles scientifiques, des poèmes. Vous demandez au bibliothécaire : « Que pouvez-vous me dire sur Victor Hugo ? » Le bibliothécaire répond avec précision. Il connaît les œuvres, les personnages, les citations, les dates, les thèmes. Et pourtant, peut-être qu’il n’a jamais lu Victor Hugo ou pas intégralement. Mais il connaît la place de chaque livre, les livres qui sont souvent empruntés ensemble, les passages qui se répondent, les auteurs qui se citent mutuellement. Il navigue dans une immense cartographie des connaissances.

L’intelligence artificielle ressemble un peu à ce bibliothécaire, elle ne vit pas les livres, elle ne les aime pas, elle ne les déteste pas, elle ne pleure pas en lisant Les Misérables, elle sait simplement établir des liens extraordinaires entre les textes. Et parfois, ces liens sont si pertinents que nous avons l’impression qu’elle comprend.

Les mathématiques deviennent du langage.

Voilà sans doute l’idée la plus étonnante. Au départ, il n’y a que des calculs, des additions, des multiplications, des probabilités et rien d’autre. Pourtant, lorsque ces calculs portent sur des milliards de phrases produites par des millions d’êtres humains, quelque chose d’inattendu apparaît. Une organisation dans laquelle les mots proches du même univers se rapprochent, les idées se regroupent, les expressions prennent naturellement leur place, un peu comme des villes qui finiraient par dessiner une carte. Les mathématiques ne créent pas le sens, elles révèlent la manière dont les humains organisent le sens dans leur langage. Et cette nuance est capitale. L’intelligence artificielle ne découvre pas le monde mais comment nous parlons du monde.

Alors, l’IA comprend-elle ?

Tout dépend finalement de ce que nous appelons « comprendre ». Si comprendre signifie avoir une conscience, des émotions, une expérience personnelle, une intention ou un libre arbitre, la réponse est clairement non. Mais si comprendre signifie être capable d’utiliser le langage avec une précision remarquable, de relier des concepts, de répondre de manière cohérente et d’adapter ses réponses au contexte, alors la réponse devient beaucoup plus nuancée. Le problème n’est peut-être pas l’intelligence artificielle, mais le problème est notre vocabulaire car nous utilisons le même verbe, comprendre, pour désigner deux réalités très différentes. L’une est humaine, l’autre est mathématique. Et parce que les résultats se ressemblent parfois, nous avons tendance à croire que les mécanismes sont identiques alors qu’ils ne le sont pas.

Ce que l’intelligence artificielle comprend vraiment

Voici peut-être la phrase la plus importante de cet article : « L’intelligence artificielle ne comprend probablement pas le monde. En revanche elle comprend remarquablement bien la manière dont les êtres humains parlent du monde. Cette différence paraît minuscule et pourtant elle est fondamentale. Car ce que manipule une intelligence artificielle, ce ne sont ni les objets, ni les émotions, ni les souvenirs, ce sont les relations entre les mots.

Et comme le langage est l’une des plus extraordinaires inventions de l’humanité, il n’est finalement pas si étonnant qu’en apprenant à manipuler ce langage, une machine finisse par donner l’impression de penser. L’illusion est parfois saisissante, mais ce n’est qu’une illusion… ou plutôt c’est une autre forme d’intelligence.

Une question qui nous ramène à nous-mêmes

Depuis plus de deux mille ans, philosophes, linguistes, psychologues et neuroscientifiques cherchent à comprendre comment naît le sens. Ironie de l’histoire, il aura fallu construire une machine qui ne comprend peut-être rien au monde pour que nous nous demandions enfin ce que signifie réellement comprendre.

Et c’est peut-être là le plus beau paradoxe de l’intelligence artificielle. Elle nous oblige moins à repenser les machines qu’à redécouvrir l’être humain.

La prochaine fois, nous poursuivrons cette exploration avec une nouvelle idée reçue. On entend souvent dire que l’intelligence artificielle « apprend ». Est-ce vrai ? Apprend-elle réellement comme un enfant qui découvre le monde, comme un artisan qui perfectionne son geste ou comme un musicien qui répète inlassablement sa partition ? Ou bien, là encore, sommes-nous victimes d’un mot qui ne recouvre pas la même réalité ? Nous verrons que, derrière ce verbe si familier, se cache sans doute l’une des plus grandes confusions de notre époque.

Après avoir terminé cet article, j’ai demandé à une intelligence artificielle si elle avait vraiment compris ce que je venais d’écrire. Elle m’a répondu : « Bien sûr ! » Alors je lui ai alors demandé de m’expliquer pourquoi un éclat de rire est parfois plus convaincant qu’un long discours. Elle est restée silencieuse. Moi aussi, mais, entre nous, je crois que, cette fois, ce n’était pas pour les mêmes raisons.

 

Gilles Desnoix