Nous voici arrivés au terme de cette série. Nous avons essayé de comprendre ce qu’est réellement une intelligence artificielle. Nous avons vu qu’elle ne pense pas comme nous, qu’elle ne comprend pas le monde comme nous, qu’elle apprend d’une manière très différente de la nôtre et qu’elle peut, dans certains domaines, produire des résultats qui étonnent jusqu’aux spécialistes.

Mais au fil des échanges, quelque chose d’inattendu s’est produit, les commentaires des lecteurs ont progressivement déplacé le débat. Car en fait, au fil des articles, nous ne parlons presque plus de la machine, nous parlons de nous.

C’est peut-être le plus grand paradoxe de cette révolution technologique. En voulant comprendre l’intelligence artificielle, nous avons été conduits à nous interroger sur l’intelligence humaine. Et cette dernière étape nous amène à une question plus ancienne que l’informatique, plus ancienne même que l’électricité. Comment décidons-nous ?

Le mètre de couture ou le tableau des tailles. Une lectrice raconte une scène que beaucoup ont probablement vécue : une vendeuse affirme qu’un vêtement convient parfaitement et le miroir semble dire le contraire, puis le tableau des tailles sur Internet ajoute encore un autre avis. Alors apparaît un vieil objet presque oublié : le mètre de couture hérité de la grand-mère. Celui-ci ne parle pas, ne juge pas, il mesure.

Et pourtant, même cette mesure ne suffira pas à décider si cette jupe sera agréable à porter, si l’on s’y sentait bien ou si elle donnerait confiance. Pourquoi ? Parce qu’entre la mesure et la décision, il existe toujours un espace profondément humain. Et aucune machine ne peut dire à notre place ce qui nous conviendra vraiment, elle peut calculer, comparer, conseiller. Mais choisir reste autre chose et nous confondons souvent la précision avec la vérité. Or une mesure exacte n’est pas encore une décision juste.

L’immense tentation. L’intelligence artificielle arrive à une époque où nous sommes fatigués de comparer, de chercher, de décider. Alors la tentation devient immense. Pourquoi réfléchir pendant une heure si une machine peut répondre en quelques secondes ? Pourquoi lire plusieurs sources si une synthèse existe déjà ? Pourquoi hésiter si un algorithme nous indique le meilleur choix ? Cette tentation est parfaitement compréhensible. Mais elle cache un danger discret car à force de déléguer les petites décisions, nous risquons d’oublier comment prendre les grandes, or personne n’apprend à juger sans exercer son jugement. Comme un muscle que l’on cesse d’utiliser, notre discernement peut s’émousser si nous nous contentons d’accepter les réponses les plus confortables.

Le doute n’est pas un défaut. Plusieurs lecteurs ont évoqué le doute. Curieusement, notre époque le considère parfois comme une faiblesse. En effet, on admire celui qui affirme, on écoute celui qui paraît certain. Pourtant, l’histoire des sciences raconte exactement l’inverse, il existe des exemples de doutes célèbres comme Galilée, Pasteur, Marie Curie, Einstein. Le doute méthodique n’est pas l’ennemi de la connaissance puisqu’il en est souvent le commencement.

Une intelligence artificielle peut produire une réponse très convaincante, mais elle ne ressent pas spontanément ce petit inconfort intérieur qui pousse un chercheur à se demander « Et si j’avais oublié quelque chose ? » Ce doute n’est pas une panne, c’est un moteur.

L’intuition est-elle un calcul très rapide ? L’une des questions les plus passionnantes soulevées par nos lecteurs concerne l’intuition. Après tout, si notre cerveau utilise inconsciemment des milliers de souvenirs pour prendre une décision, pourquoi une machine ne pourrait-elle pas faire la même chose ? La question est excellente. Les neurosciences elles-mêmes débattent encore de ce sujet. L’intuition ressemble parfois à un calcul extraordinairement rapide. Mais elle est rarement seulement cela parce qu’elle mobilise aussi notre corps, notre histoire, nos émotions, nos réussites, nos échecs, nos rencontres.

Elle est faite de tout ce que nous avons vécu sans toujours savoir que nous l’apprenions.

Le médecin expérimenté ressent parfois qu’un patient ne va pas bien avant même de savoir pourquoi, le pompier pressent qu’un bâtiment va s’effondrer, le musicien sait qu’une note sonne faux avant de pouvoir l’expliquer et cette intuition n’est pas magique. Non, elle est l’expérience devenue presque invisible. Une machine peut apprendre des régularités. Mais elle ne possède pas cette mémoire vécue qui donne parfois naissance à ce que nous appelons l’intuition.

L’analogie, ce drôle de raccourci. Une autre question revient souvent : la machine peut-elle raisonner par analogie ? Oui, et de mieux en mieux, car elle rapproche des idées éloignées, elle détecte des ressemblances, elle suggère des comparaisons auxquelles nous n’avions pas pensé. Mais l’analogie humaine possède une particularité car elle naît souvent d’une émotion. Un enfant voit une feuille tomber et pense à un papillon fatigué, un écrivain compare une ville à une ruche, un humoriste rapproche un ministre et un coq de basse-cour. Ces rapprochements ne sont pas seulement logiques, ils racontent quelque chose de notre manière d’habiter le monde. L’intelligence artificielle peut produire des analogies remarquables, mais l’être humain leur donne un sens.

La machine nous rend-elle moins intelligents ? La réponse dépend probablement moins de la machine que de nous-mêmes. Et même du niveau moyen des individus pris en général. Celui qui utilise une calculatrice n’oublie pas forcément les mathématiques. En revanche, celui qui cesse définitivement de réfléchir parce qu’une calculatrice existe prend un risque. Il en va de même pour l’intelligence artificielle. En effet, elle peut devenir un formidable outil de réflexion ou un confortable substitut à la réflexion. Tout dépend de l’usage que nous en faisons. Un marteau permet de construire une maison et il peut aussi casser une fenêtre, mais la responsabilité n’appartient jamais au marteau.

Le dernier juge. Nous pouvons désormais répondre à la question qui traverse discrètement toute cette série : « Une intelligence artificielle remplacera-t-elle un jour le jugement humain ? » Elle pourra probablement éclairer nos décisions, comparer des milliers de dossiers, détecter des incohérences, proposer des hypothèses, signaler des risques, explorer des solutions auxquelles nous n’aurions pas pensé. Tout cela est déjà considérable, mais décider ne consiste pas seulement à additionner des informations, c’est aussi ou surtout accepter les conséquences. Et les conséquences sont toujours vécues par des êtres humains. Un juge ne rend pas seulement une décision juridiquement correcte, il engage une société. Un médecin ne choisit pas uniquement un traitement, il accompagne une personne. Un maire n’arbitre pas seulement un budget, il influence la vie quotidienne de milliers d’habitants. À chaque fois, les chiffres comptent, mais ils ne suffisent jamais. Il reste cette part irréductible où l’expérience, l’éthique, la responsabilité et parfois même la compassion prennent le relais. C’est là que demeure, au moins pour l’instant, le dernier juge.

Ce que cette série nous a appris. Au départ, nous voulions comprendre une machine. Nous avons finalement redécouvert plusieurs choses sur nous-mêmes. Comme le fait que penser n’est pas seulement calculer, que comprendre n’est pas seulement répondre, qu’apprendre n’est pas seulement mémoriser, que créer n’est pas seulement combiner, que décider n’est pas seulement choisir l’option la plus probable. Et surtout que l’intelligence n’est peut-être pas ce qui nous définit le mieux. En effet, il existe quelque chose d’encore plus précieux : le discernement.

Une conclusion très humaine. Au fond, l’intelligence artificielle ne nous vole pas notre humanité, par contre, elle nous oblige simplement à nous demander où elle commence réellement. Peut-être pas dans notre mémoire, ni dans notre rapidité, ni même dans notre capacité à résoudre un problème, peut-être commence-t-elle précisément à l’instant où nous sommes capables de dire : « Je ne sais pas, regardons ensemble. »

Curieusement, c’est sans doute la phrase que la machine aura toujours le plus de mal à vivre. Parce qu’elle n’est pas seulement une réponse mais un acte de confiance.

Pendant toute cette série, j’ai beaucoup demandé à une intelligence artificielle. À la fin, par curiosité, je lui ai posé une dernière question : « À ton avis, qui est le plus intelligent de nous deux ? » Elle a réfléchi une fraction de seconde avant de répondre : « Cela dépend de la question. » J’ai souri parce que pour une fois, je n’avais plus vraiment besoin de la réponse.

Je crois là que nous avions enfin trouvé la bonne question.

Ce que cette série nous a finalement appris. Au début de cette série, un lecteur nous posait une question toute simple : « Utilisez-vous l’intelligence artificielle ? » et la réponse tenait en trois lettres : « Oui. » Nous pensions alors écrire quelques articles sur une technologie nouvelle. Nous avons finalement parlé de langage, de mémoire, d’apprentissage, de créativité, de doute, de responsabilité et de jugement. Autrement dit nous avons beaucoup moins parlé de la machine que de l’homme. Et peut-être était-ce inévitable car chaque grande invention finit toujours par agir comme un miroir.

Le télescope nous a appris que l’Univers était infiniment plus vaste que nous ne l’imaginions, le microscope nous a révélé un monde invisible. L’intelligence artificielle, elle, nous oblige à regarder autrement ce qui se passe dans notre propre esprit. Pendant longtemps, nous avons cru que l’intelligence consistait surtout à savoir. Puis nous avons admiré ceux qui savaient calculer plus vite. Aujourd’hui, nous construisons des machines capables de mémoriser davantage que nous, de retrouver une information en quelques secondes, d’explorer des millions de possibilités ou de résoudre certains problèmes d’une complexité vertigineuse.

Ces performances sont impressionnantes, mais elles nous conduisent à une découverte inattendue. Savoir n’est pas comprendre, comprendre n’est pas juger. Et juger n’est pas encore être sage. Les philosophes grecs distinguaient déjà plusieurs formes d’intelligence. Il y avait celle qui permettait de fabriquer, celle qui permettait de connaître et celle qui permettait de bien décider. Aristote appelait cette dernière la phronèsis, la prudence au sens noble du terme : cette capacité à choisir, ici et maintenant, la meilleure décision possible pour une personne réelle, dans une situation toujours particulière. Aucune équation ne suffit à produire cette sagesse. Aucun algorithme ne peut entièrement remplacer cette part où se rencontrent l’expérience, le doute, l’intuition, la responsabilité, la compassion parfois, et cette conscience que toute décision engage des êtres humains. Peut-être est-ce là la véritable leçon de cette série. L’intelligence artificielle ne diminue pas l’importance de l’homme mais elle augmente sa responsabilité. Plus les outils deviennent puissants, plus celui qui les utilise doit faire preuve de discernement. La machine peut proposer, comparer, explorer, calculer, vérifier et elle peut même nous surprendre. Mais elle ne portera jamais seule les conséquences d’une décision qui continueront longtemps encore à reposer sur nos épaules.

Nous avons construit des machines capables de répondre à presque toutes nos questions. Le défi de demain sera peut-être beaucoup plus exigeant. Continuer à poser celles auxquelles aucune machine ne pourra jamais répondre à notre place comme « Qu’est-ce qu’une vie réussie ? », « Qu’est-ce qu’une décision juste ? », « Pourquoi aimons-nous ou haïssons-nous ? », « Pourquoi pardonnons-nous ? », « Pourquoi acceptons-nous parfois de perdre alors même que nous pourrions gagner ? », « Pourquoi choisissons-nous la solidarité plutôt que l’intérêt immédiat ? ». Ces questions-là ne sont pas des problèmes à résoudre. Elles sont le cœur même de la condition humaine et, au fond, l’intelligence artificielle ne nous oblige pas à devenir moins humains, mais au contraire, à le devenir davantage. À cultiver ce qu’aucune machine ne peut vivre à notre place comme l’expérience, la responsabilité, le doute, la liberté, le sens moral et cette étrange capacité à reconnaître que l’on ne sait pas tout. Socrate affirmait que la sagesse commençait lorsqu’on acceptait son ignorance. Deux mille cinq cents ans plus tard, il est assez amusant de constater que la machine la plus puissante jamais construite nous conduit exactement au même endroit.

Et je me suis dit que, finalement, ce n’était sans doute pas l’intelligence qui nous distinguerait le plus demain, mais notre capacité à choisir ce que nous voulons faire de cette intelligence.

Parce qu’au fond, nous avons construit des machines capables de nous répondre, il nous reste maintenant à construire des femmes et des hommes capables de continuer à se poser les bonnes questions.

Nous avons beaucoup travaillé les lecteurs et moi, j’ai beaucoup lu, beaucoup écrit et je suis finalement arrivé à une conclusion dont je suis presque fier. Le problème, c’est que dans l’histoire des sciences, les gens qui étaient « absolument certains » avaient souvent rendez-vous avec une belle erreur. Car, enfin, je viens tout de même d’expliquer pendant cinq articles pourquoi l’homme resterait probablement plus intelligent que la machine. Si ça se trouve, nous venons surtout de produire une somme qui fera beaucoup rire les intelligences artificielles de 2050. Dans le doute… nous hésitons presque à leur demander de relire notre série. Après tout, elles nous répondront peut-être : « Vous n’aviez pas complètement tort, vous étiez simplement un peu en avance sur votre erreur. »

 

Gilles Desnoix