Entre mémoire, entraînement et illusion d’expérience

Dans le premier épisode, nous avons essayé de dissiper quelques fantasmes. Dans le deuxième, nous avons vu qu’une intelligence artificielle ne comprend pas le monde comme un être humain, mais qu’elle sait remarquablement bien repérer la manière dont les humains parlent du monde. Reste maintenant une autre affirmation, répétée partout avec une apparente évidence : « L’intelligence artificielle apprend. » Le mot est séduisant. Il évoque l’enfant qui découvre, l’élève qui progresse, l’artisan qui perfectionne son geste, le musicien qui répète jusqu’à trouver la justesse. Il évoque aussi l’expérience, l’erreur, la correction, la mémoire, parfois même la sagesse.

Mais lorsqu’on dit qu’une machine apprend, parle-t-on réellement de la même chose ? Une intelligence artificielle apprend-elle comme nous ? Retient-elle nos échanges ? Se souvient-elle de ses erreurs ? Devient-elle plus intelligente chaque fois que nous lui parlons ? La réponse est moins simple qu’un oui ou qu’un non. Et, comme souvent avec l’intelligence artificielle, la confusion vient d’un mot humain appliqué à un fonctionnement qui ne l’est pas.

Apprendre, pour un être humain, c’est vivre.

Un enfant apprend que le feu brûle. Il peut l’apprendre parce qu’un adulte le lui explique, mais il peut aussi l’apprendre en approchant trop près sa main d’une flamme. Dans le premier cas, il reçoit une information, dans le second, il vit une expérience et cette différence est essentielle. L’apprentissage humain ne repose pas seulement sur l’accumulation de connaissances. Il s’appuie sur le corps, les émotions, le souvenir, le désir, la peur, la répétition et la relation avec les autres. Nous apprenons parce que nous essayons, parce que nous échouons, parce que nous recommençons, parce qu’une erreur nous coûte parfois du temps, de l’argent, une blessure, une humiliation ou simplement un peu d’amour-propre. Un enfant qui tombe en apprenant à marcher ne reçoit pas seulement une donnée sur l’équilibre. Il ressent la chute. Il pleure. Il est rassuré. Puis il se relève. Un musicien ne mémorise pas seulement des notes. Il développe une écoute, un geste, une sensibilité, une relation physique avec son instrument. Un journaliste ne devient pas journaliste en apprenant uniquement des règles d’écriture. Il apprend aussi à douter d’une source, à sentir une contradiction, à supporter de ne pas savoir, à revenir sur une erreur.

Notre apprentissage transforme progressivement ce que nous savons, mais aussi ce que nous sommes. Une intelligence artificielle n’a ni corps, ni enfance, ni fatigue, ni honte, ni fierté et lorsqu’elle se trompe, elle ne ressent rien, elle ne se promet pas de faire mieux la prochaine fois, elle ne passe pas une mauvaise nuit en repensant à sa réponse et pourtant, on dit qu’elle apprend.

Pourquoi ?

Le grand entraînement

Pour comprendre, il faut distinguer deux moments très différents. Le premier est celui de l’entraînement. Avant de pouvoir répondre à nos questions, une intelligence artificielle est exposée à d’immenses quantités de textes, d’images ou d’autres données, elle observe des régularités, elle repère quels mots apparaissent souvent ensemble, elle ajuste progressivement des milliards de paramètres internes. Au début, ses réponses sont mauvaises, puis elles deviennent moins mauvaises, cohérentes et parfois étonnamment pertinentes. On pourrait comparer cela à un immense exercice de prédiction. Par exemple, si on lui présente une phrase incomplète : « Le soleil se lève à… » et qu’elle doit deviner la suite, au départ, elle peut répondre n’importe quoi. Puis, après avoir rencontré d’innombrables phrases semblables, elle comprend, au sens mathématique, que le mot « est » est beaucoup plus probable que « confiture », « tribunal » ou « tournevis ». Mais honnêtement elle ne sait pas ce qu’est l’Est car elle n’a jamais vu le soleil se lever, mais elle a appris une régularité du langage. Si cet exercice est répété des milliards de fois, à chaque erreur, les réglages internes sont légèrement modifiés : c’est cela que l’on appelle l’apprentissage automatique. La machine ne reçoit pas une leçon au sens humain, simplement elle ajuste ses calculs, elle ne comprend pas qu’elle s’est trompée, elle est simplement corrigée.

Une salle d’entraînement sans souvenirs

Imaginons un élève très particulier que l’on installe dans une immense salle et à qui l’on soumet des milliards de questions. À chaque mauvaise réponse, une équipe de techniciens modifie légèrement son cerveau artificiel. Après des mois d’entraînement, il devient capable de répondre avec une grande précision, puis on ferme la salle et l’élève est envoyé dans le monde. Il peut discuter avec nous, mais il ne se souvient pas nécessairement de chaque exercice qui lui a permis d’apprendre, il ne peut pas raconter sa première erreur, il ne se rappelle pas le moment où il a découvert un mot, en fait, il ne possède pas le journal intime de son apprentissage et son savoir se trouve diffusé dans ses réglages. Cet élève très particulier ressemble à un pianiste qui saurait jouer une sonate sans se souvenir de chacune de ses répétitions. À ceci près que le pianiste, lui, a vécu ces répétitions, la machine, non, elle n’en porte seulement que le résultat.

Apprend-elle pendant que nous lui parlons ?

C’est probablement l’un des malentendus les plus fréquents. Lorsqu’une personne dialogue avec une intelligence artificielle, elle constate que la machine tient compte de ce qui vient d’être dit, qu’elle corrige une réponse, qu’elle adopte un ton demandé, qu’elle reprend une information donnée quelques lignes plus tôt. Pour cette personne qui dialogue avec l’IA, cette dernière semble donc apprendre. Mais, dans la plupart des cas, elle ne modifie pas son fonctionnement profond, elle utilise simplement le contexte de la conversation. Prenons un exemple : vous dites à l’IA : « Dans ce texte, je souhaite un ton pédagogique, peu de jargon et une conclusion humoristique. » et quelques minutes plus tard, elle respecte ces consignes, elle semble avoir appris vos préférences mais en réalité, elle les conserve temporairement dans la conversation en cours. C’est un peu comme un comédien qui reçoit des indications avant d’entrer en scène. Il les applique pendant la représentation, mais cela ne signifie pas qu’elles ont définitivement transformé sa manière de jouer. Lorsque la conversation s’achève, ce contexte peut disparaître. Même lorsqu’un système possède une fonction de mémoire, il faut distinguer cette mémoire personnelle de l’entraînement général du modèle. Se souvenir que quelqu’un préfère des textes sans trop de retours à la ligne n’est pas la même chose que devenir globalement meilleur en littérature.

La mémoire n’est pas l’apprentissage.

Nous avons tendance à confondre plusieurs choses comme retenir une information, l’utiliser dans une conversation, modifier durablement son comportement, améliorer ses capacités générales. Chez l’être humain, ces phénomènes se mélangent souvent, chez une intelligence artificielle, ils peuvent être séparés. Une machine peut garder une information sans la comprendre, elle peut utiliser une préférence sans en tirer une règle universelle, elle peut corriger une réponse sans devenir durablement moins sujette à cette erreur. Supposons qu’une intelligence artificielle se trompe sur la date d’un événement, vous la corrigez et elle reconnaît son erreur, ainsi dans la suite de la conversation, elle peut utiliser la bonne date. Mais cela ne signifie pas que toutes les autres personnes qui l’interrogeront bénéficieront immédiatement de votre correction. Pour qu’une amélioration devienne générale, il faut généralement qu’elle soit intégrée à un nouvel entraînement, à une mise à jour ou à un système de vérification externe. Autrement dit, votre correction ne transforme pas instantanément la machine entière car elle corrige surtout l’échange en cours.

Alors pourquoi semble-t-elle progresser ?

Parce que, souvent, c’est la conversation qui progresse. Au début, la question est vague, la réponse l’est aussi. L’utilisateur précise alors, la machine ajuste, l’utilisateur reformule et la réponse devient meilleure. Au bout de quelques échanges, on a l’impression que l’intelligence artificielle a appris, mais en réalité, les deux interlocuteurs ont construit progressivement un meilleur contexte. En réalité il se produit aussi autre chose. L’être humain apprend à mieux interroger la machine, il découvre qu’une question précise donne une réponse plus utile, il comprend qu’il faut fournir le contexte, le public visé, le ton souhaité, les limites à respecter, il apprend à demander une vérification, à contester une affirmation, à exiger une autre formulation. La machine n’est donc pas toujours celle qui apprend le plus et parfois, elle sert surtout d’entraînement à l’utilisateur. L’on découvre alors un paradoxe assez savoureux : nous croyons apprendre à la machine à mieux nous répondre, alors que c’est souvent elle qui nous apprend à mieux poser nos questions.

L’erreur humaine et l’erreur artificielle

Un être humain peut apprendre d’une erreur parce qu’il en comprend la cause. Il peut dire « Je suis allé trop vite. », « Je n’ai pas vérifié. », « J’ai mal interprété la situation. », « J’ai voulu avoir raison. »

L’intelligence artificielle ne fait pas cette introspection. Et ainsi, lorsqu’elle explique pourquoi elle s’est trompée, elle produit une explication plausible à partir du langage. Cette explication peut être juste, mais elle ne provient pas nécessairement d’un accès réel aux mécanismes qui ont produit l’erreur. La machine peut donc donner une analyse convaincante de sa propre faute sans réellement savoir ce qui s’est passé en elle. Sur ce point, reconnaissons toutefois qu’elle n’est peut-être pas si éloignée de nous. L’être humain aussi excelle parfois à inventer après coup de très bonnes raisons pour expliquer une décision prise pour de beaucoup moins bonnes. L’autodérision oblige à l’admettre : nous ne sommes pas toujours les experts les plus fiables de notre propre fonctionnement.

Une intelligence sans expérience personnelle

Voilà une autre différence essentielle : l’intelligence artificielle possède une immense quantité d’informations, mais elle ne possède pas d’expérience personnelle. Ça tombe sous le sens, elle peut expliquer la peur, mais elle n’a jamais eu peur, elle peut décrire la vieillesse mais elle ne vieillira jamais et elle ne vieillit pas. Elle peut parler du deuil pourtant elle n’a jamais perdu personne, elle peut rédiger une déclaration d’amour sans avoir jamais aimé. Et elle n’aimera jamais. Tout cela ne rend pas nécessairement ses textes inutiles. Dans le même temps, un dictionnaire n’a jamais été amoureux non plus, et il peut pourtant définir l’amour. Mais cela fixe une limite. La machine sait beaucoup de choses sur les récits humains et pourtant elle ne possède pas de récit qui lui appartienne, pas de biographie, pas de blessures anciennes, pas de souvenirs d’enfance et aussi pas de première fois. Son intelligence est faite de relations apprises dans les données, pas d’une vie traversée.

Peut-elle devenir meilleure ?

Oui, mais pas de la manière dont nous progressons. Les chercheurs peuvent améliorer les méthodes d’entraînement, ajouter de meilleures données, corriger certains biais, renforcer les mécanismes de vérification, modifier l’architecture, faire intervenir des évaluateurs humains, relier la machine à des sources plus fiables et ainsi chaque nouvelle version peut donc être plus performante que la précédente. Mais ce progrès ressemble davantage à la mise au point d’un nouvel appareil qu’à la maturation d’une personne. Un nouveau modèle n’est pas un ancien modèle devenu plus sage, c’est généralement une nouvelle construction, entraînée différemment. Nous parlons pourtant de « générations », de « mémoire », d’« apprentissage », comme si la machine grandissait. Ces mots sont pratiques et ils sont aussi trompeurs. Ils donnent une histoire humaine à un processus industriel, mathématique et collectif. Pour ma part, j’ai réussi à donner les bonnes instructions de recherches avec pour obligation la certification des données, le recoupement sur plusieurs sources. En même temps je soumets la recherche d’une IA en critique à une autre et souvent ça lève des lièvres, assure la validation des informations. De plus j’utilise des bases de fact-checking pour revérifier mes revérifications.

Qui apprend derrière la machine ?

Derrière chaque intelligence artificielle, il y a pourtant une immense quantité d’apprentissage humain. Des chercheurs expérimentent, des ingénieurs corrigent, des linguistes analysent, des évaluateurs comparent des réponses, des utilisateurs signalent des erreurs, des juristes définissent des règles, des enseignants inventent de nouveaux usages : la machine n’est donc pas seule à apprendre, tout un écosystème humain apprend autour d’elle. Chaque progrès apparent de l’IA repose sur des milliers de décisions humaines.

Choisir les données, définir une bonne réponse, écarter certains contenus, favoriser tel comportement plutôt que tel autre, c’est ce que nous appelons « l’apprentissage de la machine », mais c’est aussi le résultat d’un gigantesque travail humain, souvent invisible. La machine reçoit le mérite, les humains restent dans les coulisses. C’est une vieille habitude humaine, on admire volontiers la locomotive, beaucoup moins ceux qui ont posé les rails.

L’intelligence artificielle apprend-elle de nous ?

Oui, collectivement. Elle apprend à partir des textes, des images, des découvertes, des erreurs, des œuvres et des conversations produites par l’humanité. On peut affirmer qu’elle est l’héritière d’un immense patrimoine. Sans les écrivains, les chercheurs, les journalistes, les enseignants, les juristes, les artistes, les traducteurs, les anonymes qui ont écrit des lettres, des notices, des recettes ou des témoignages, elle n’aurait presque rien à apprendre.

Une intelligence artificielle ne tombe pas du ciel, ce n’est pas une génération spontanée, non, elle est construite à partir de traces humaines, elle porte en elle nos savoirs et aussi nos contradictions, nos préjugés, nos simplifications, nos oublis. Elle apprend ce que nous lui donnons et parfois, elle apprend trop bien ce que nous aurions préféré ne pas lui transmettre.

Apprendre n’est pas devenir sage.

Nous associons volontiers la connaissance à la sagesse parce que celui qui sait davantage devrait mieux juger. L’histoire humaine montre pourtant que ce lien n’est pas automatique.

On peut être savant et imprudent, cultivé et cruel, brillant et aveugle. Une intelligence artificielle peut, elle aussi, accumuler des performances sans acquérir de sagesse. En effet, la sagesse suppose autre chose que la capacité à produire une réponse. Elle suppose de mesurer les conséquences, de reconnaître la vulnérabilité d’autrui, de savoir parfois se taire, de comprendre qu’une vérité peut blesser, qu’une décision juste peut être inhumaine si elle est appliquée sans discernement, qu’une réponse techniquement correcte n’est pas toujours la bonne réponse à donner.

La machine peut être entraînée à imiter cette prudence, elle peut suivre des règles, elle peut reconnaître certaines situations sensibles, mais elle ne ressent pas le poids moral de ce qu’elle dit. Cette responsabilité reste humaine.

Peut-être sommes-nous les véritables élèves.

L’intelligence artificielle nous oblige à mieux distinguer plusieurs choses que nous confondions comme savoir et comprendre, retenir et apprendre, répondre et juger, information et expérience, performance et intelligence, intelligence et sagesse.

En l’observant, nous découvrons que notre propre apprentissage est beaucoup plus riche que nous ne le pensions. Nous n’apprenons pas seulement avec notre cerveau, mais avec notre corps, nos émotions, les autres, le temps, nos échecs et avec ce que nous oublions aussi.

La machine apprend des régularités et l’être humain apprend à habiter le monde : ce n’est pas tout à fait la même chose.

La prochaine question : qui devient plus intelligent ?

L’intelligence artificielle apprend donc, mais d’une manière très particulière. Elle ne grandit pas, ne mûrit pas, ne transforme pas une expérience vécue en leçon personnelle. Elle est entraînée, ajustée, corrigée, mise à jour et ainsi elle peut devenir plus performante.

Cela ne signifie pas qu’elle devient plus consciente, plus responsable ou plus sage. Mais son existence transforme déjà notre manière de travailler, d’écrire, d’apprendre et de décider.

La véritable question n’est peut-être donc plus seulement : la machine apprend-elle ?

Elle devient : Qu’allons-nous apprendre, nous, en travaillant avec elle ? Car un outil intellectuel ne modifie pas seulement ce que nous faisons. Il finit toujours par modifier un peu celui qui l’utilise. Dans le prochain épisode, nous quitterons donc la machine pour revenir pleinement vers l’être humain. L’intelligence artificielle augmente-t-elle réellement notre intelligence ? Nous rend-elle plus créatifs, plus efficaces, plus libres ? Ou risque-t-elle au contraire de nous rendre plus paresseux, plus dépendants et moins capables de penser seuls ?

 

Autrement dit : lorsque la machine nous aide à réfléchir, qui fait encore l’effort de penser ?

Pour vérifier si l’intelligence artificielle apprenait vraiment de ses erreurs, je lui ai demandé de ne plus jamais se tromper. Elle m’a répondu que ma demande était parfaitement comprise.

Depuis, elle continue à se tromper avec beaucoup d’assurance. Sur ce point, au moins, elle semble avoir remarquablement bien appris de nous.

 

Gilles Desnoix