Du faux conseiller bancaire à l’intelligence artificielle, nous entrons dans un monde où voir, entendre et reconnaître ne suffisent plus nécessairement pour croire. Et cela change beaucoup plus que notre rapport à Internet.

Il fut un temps où l’on disait aux enfants : « Ne parle pas aux inconnus. » C’était relativement simple : l’inconnu était celui que l’on ne connaissait pas. Aujourd’hui, l’inconnu peut avoir le visage d’un ami, la voix de votre enfant, le numéro de téléphone de votre banque, le logo d’une administration et suffisamment d’informations personnelles sur vous pour connaître votre adresse, votre date de naissance ou parfois une partie de votre histoire. Derrière les fraudes numériques, le vol de données, l’hameçonnage, le carding, les faux conseillers bancaires et désormais les possibilités offertes par l’intelligence artificielle se cache peut-être une mutation beaucoup plus profonde. Ce que les escrocs menacent de nous voler n’est plus seulement notre argent ou nos données : c’est notre capacité à faire confiance. Et une société dans laquelle chacun finit par se méfier de tout le monde n’est pas seulement une société plus prudente. C’est une société différente.

Nous avons longtemps cru que voir, c’était croire. Notre rapport au monde reposait jusqu’à présent sur quelques certitudes assez rudimentaires : je reconnais la voix de ma fille, c’est donc ma fille ; je vois quelqu’un prononcer une phrase dans une vidéo, il l’a donc prononcée ; ma banque m’appelle depuis un numéro qui semble être le sien, c’est probablement ma banque ; je reçois un courrier portant le logo d’une administration, il provient vraisemblablement de cette administration ; une photographie constitue une preuve raisonnable de ce qu’elle représente. Toutes ces affirmations deviennent progressivement discutables. Les techniques d’usurpation, de manipulation d’images, de synthèse vocale et de deepfakes permettent désormais de fabriquer des éléments qui possèdent tous les attributs apparents du réel. La révolution est considérable parce que, depuis toujours, nous avons appris à nous méfier du mensonge ; il faut maintenant apprendre à nous méfier de ce qui ressemble à une preuve.

Du voleur de portefeuille au voleur invisible. Autrefois, pour vous voler votre portefeuille, il fallait généralement s’approcher de vous. Aujourd’hui, votre voleur peut se trouver à plusieurs milliers de kilomètres. Votre carte bancaire peut être tranquillement rangée dans votre poche tandis que ses coordonnées circulent ailleurs et servent à effectuer des achats. Les données nécessaires peuvent provenir d’un hameçonnage, d’un logiciel malveillant, d’une fuite informatique ou d’un site compromis. Mais une étape supplémentaire est désormais franchie : le voleur ne cherche plus seulement à dérober une donnée. Il cherche à fabriquer une réalité suffisamment crédible pour que nous lui donnions nous-mêmes ce qu’il désire. Il ne force plus nécessairement la porte. Il essaie de nous convaincre de la lui ouvrir.

Le meilleur pirate informatique n’est peut-être plus informaticien. Nous imaginons volontiers le cybercriminel derrière plusieurs écrans, capuche sur la tête, alignant des lignes de code incompréhensibles. L’image est pratique pour le cinéma, beaucoup moins pour comprendre une grande partie des escroqueries contemporaines. Celles-ci reposent souvent sur ce que l’on appelle « l’ingénierie sociale ». Le système informatique que l’on cherche à pirater, c’est alors l’être humain. On cherche sa peur, son désir, sa solitude, son empressement, son respect de l’autorité, son affection ou sa cupidité. Le faux conseiller bancaire utilise l’inquiétude : « Nous avons détecté une opération frauduleuse sur votre compte. » Le faux amoureux exploite la solitude ou le besoin d’affection. Le faux policier utilise l’autorité. Le faux enfant en difficulté mobilise l’amour parental. Le faux fournisseur exploite les habitudes d’une entreprise. Le faux service public joue sur notre crainte d’une dette ou d’une sanction administrative. Le mécanisme est presque toujours identique : provoquer une émotion suffisamment forte pour réduire le temps laissé à la réflexion. Peur, urgence, amour, culpabilité, compassion ou appât du gain : il suffit de trouver la bonne serrure.

Et nous fournissons nous-mêmes une partie des clés. Voilà l’un des grands paradoxes de notre époque. Jamais nous n’avons autant demandé la protection de notre vie privée et jamais nous n’avons autant raconté publiquement notre existence. Anniversaires, vacances, enfants, animaux, profession, loisirs, restaurants, voyages, deuils, mariages, séparations, photographies de famille, parcours professionnel : nous laissons derrière nous des milliers de petits cailloux numériques. Pris séparément, ils paraissent insignifiants. Assemblés, ils peuvent raconter quelqu’un avec une étonnante précision. L’escroc d’hier lançait mille hameçons identiques au hasard en espérant qu’un poisson mordrait. Celui d’aujourd’hui peut déjà adapter son discours. Celui de demain pourra fabriquer à grande échelle l’hameçon correspondant précisément à sa cible. L’intelligence artificielle ne crée donc pas nécessairement une criminalité entièrement nouvelle. Elle peut surtout donner une puissance industrielle à une activité humaine vieille comme le monde : mentir de manière convaincante.

La donnée personnelle est devenue une matière première. Une fraude devient extraordinairement crédible lorsque celui qui vous appelle connaît déjà votre nom, votre adresse, votre banque, votre fournisseur d’énergie ou certaines informations administratives. C’est probablement l’une des évolutions dont nous mesurons encore mal les conséquences. Nous avions autrefois un réflexe rassurant : « Comment connaîtrait-il mon adresse si ce n’était pas réellement ma banque ? » Justement : il peut la connaître. Une donnée volée à une entreprise peut être recoupée avec une autre provenant d’un autre fichier, puis complétée avec les informations que nous avons nous-mêmes rendues publiques. Peu à peu se constitue une identité numérique parallèle suffisamment précise pour devenir utilisable contre nous. La connaissance d’une information personnelle ne constitue donc plus une preuve suffisante de l’identité de celui qui la possède.

Les personnes âgées ? Attention à cette idée reçue. On entend encore souvent que les victimes seraient principalement des personnes âgées peu familiarisées avec Internet. La réalité est plus compliquée. Certaines personnes âgées présentent effectivement des vulnérabilités particulières face aux outils numériques. Mais les jeunes sont exposés autrement : achats en ligne, réseaux sociaux, messageries instantanées, faux concours, faux emplois, faux investissements, comptes piratés ou commerces fictifs. Ils maîtrisent parfois admirablement l’outil tout en faisant précisément confiance à cette maîtrise. Le véritable facteur de vulnérabilité n’est donc pas nécessairement l’âge. C’est souvent le contexte. Nous pouvons tous devenir vulnérables un jour de fatigue, après un décès, pendant une séparation, lorsqu’un enfant rencontre un problème, lorsque nous attendons réellement un colis, lorsque notre banque vient justement de nous contacter, lorsque nous cherchons un emploi, lorsque nous sommes amoureux ou simplement lorsque notre attention est occupée ailleurs. Les escrocs n’ont pas besoin que nous soyons stupides. Ils ont seulement besoin que nous soyons humains pendant trente secondes.

L’intelligence artificielle change encore la nature du problème. Jusqu’à présent, l’une des meilleures protections contre l’escroquerie était l’incohérence. Un français approximatif, une photographie grossièrement trafiquée, une adresse électronique étrange, un discours maladroit permettaient souvent de détecter la supercherie. L’intelligence artificielle peut précisément supprimer une partie de ces défauts. Elle peut produire un français impeccable, traduire instantanément, rédiger un courrier adapté à son destinataire, fabriquer une photographie vraisemblable ou imiter une voix à partir d’un échantillon. Le problème n’est donc pas seulement quantitatif, avec davantage d’escroqueries. Il devient qualitatif : les escroqueries peuvent devenir meilleures. Et lorsque le faux devient suffisamment bon pour ressembler au vrai, la vieille recommandation « regardez bien » ne suffit plus. Il faut vérifier autrement.

Le problème devient philosophique. Car une société ne peut fonctionner sans confiance. Lorsque nous confions notre argent à une banque, nous faisons confiance. Lorsque nous montons dans un bus, nous faisons confiance au conducteur, à l’entreprise et à ceux qui ont contrôlé le véhicule. Lorsque nous achetons un médicament, nous faisons confiance au pharmacien, au fabricant et aux autorités sanitaires. Lorsque nous laissons un enfant à l’école, nous faisons confiance à toute une institution. Lorsque nous lisons un journal, nous lui accordons une part de confiance, à charge pour lui de la mériter. Lorsque quelqu’un nous téléphone et que nous reconnaissons sa voix, nous faisons confiance à nos sens. Or voilà que la technique devient capable de fabriquer ce que nos sens perçoivent. Ce n’est donc plus seulement un problème informatique ou policier. Cela touche à notre manière même d’établir ce que nous considérons comme réel.

Le danger serait alors de ne plus croire personne. Il serait pourtant catastrophique de répondre à l’escroquerie généralisée par la méfiance généralisée. Ne plus répondre au téléphone, ne plus ouvrir un courriel, ne plus croire une photographie, ne plus faire confiance à sa banque, à son administration, à un journaliste, à un commerçant ou à celui qui demande sincèrement de l’aide : les escrocs auraient alors remporté une victoire infiniment plus importante que quelques virements frauduleux. Ils auraient détruit une partie du lien social. Car la confiance est une étrange richesse : elle ne figure dans aucun calcul de PIB, mais son absence coûte extrêmement cher. Lorsque plus personne ne croit personne, il faut tout vérifier, contrôler, authentifier, certifier, sécuriser et prouver. Puis recommencer. Chacun dépense alors une énergie considérable à démontrer qu’il est bien celui qu’il prétend être.

Il ne faut pas moins croire, il faut vérifier différemment. De nouveaux réflexes doivent donc devenir aussi naturels que fermer sa porte à clé. Un appel de la banque ? On raccroche et on rappelle soi-même le numéro officiel. Un proche réclame soudain de l’argent ? On le contacte par un autre moyen. Une administration réclame un paiement ? On ne suit pas le lien reçu mais on rejoint directement son espace personnel. Une personne impose une urgence absolue ? C’est précisément le moment de ralentir. Un code de sécurité arrive par SMS ? On ne le communique jamais à celui qui téléphone. Une vidéo extraordinaire apparaît sur un réseau social ? On en recherche l’origine avant de la partager. Une personne prétend détenir des informations confidentielles ? On ne considère plus leur simple connaissance comme une preuve d’identité. Le principe général est finalement assez simple : faire confiance à quelqu’un ne dispense plus de vérifier le canal par lequel il nous parle.

Et surtout, ne jamais humilier les victimes. Il existe enfin un comportement particulièrement contre-productif : demander à une victime comment elle a pu « se faire avoir ». La honte constitue l’une des meilleures alliées des escrocs. Elle retarde le signalement, empêche parfois de prévenir la banque, isole la victime et dissuade d’autres personnes de raconter ce qui leur est arrivé. Or l’escroquerie moderne repose précisément sur une connaissance de plus en plus fine des comportements humains. Une personne intelligente, instruite, prudente et parfaitement à l’aise avec Internet peut être trompée. Il suffit parfois que l’histoire arrive au bon moment et touche le bon ressort émotionnel. Celui qui rit aujourd’hui de la victime d’une arnaque sentimentale sera peut-être demain convaincu par un faux conseiller bancaire particulièrement crédible. La vulnérabilité n’est pas nécessairement un état permanent ; elle peut être un instant.

Une nouvelle éducation devient nécessaire. Nous avons consacré énormément d’énergie à apprendre aux citoyens à utiliser le numérique. Il faut désormais leur apprendre à résister au numérique lorsqu’il cherche à les manipuler. Cela commence à l’école et doit se poursuivre tout au long de la vie. Savoir envoyer un courriel, utiliser une application ou remplir un formulaire en ligne ne suffit plus. La véritable culture numérique consiste désormais à comprendre comment une information peut être fabriquée, pourquoi une émotion constitue un instrument de manipulation, comment vérifier une identité et à quel moment interrompre une conversation. À l’apprentissage de la lecture, de l’écriture et du calcul vient progressivement s’ajouter une autre compétence fondamentale : apprendre à douter intelligemment sans devenir incapable de croire.

L’IA n’est pas la coupable idéale. Il serait enfin tentant d’accuser l’intelligence artificielle de tous les maux. Ce serait beaucoup trop simple. Une technologie n’a pas de morale propre. L’imprimerie a diffusé les grandes œuvres de l’humanité et des pamphlets ignobles. La radio a transmis de la musique, de l’information et de la propagande. Internet donne accès en quelques secondes à une bibliothèque mondiale tout en offrant un terrain formidable aux escrocs. L’intelligence artificielle peut aider à apprendre, rechercher, traduire, diagnostiquer, créer ou rendre accessibles des connaissances autrefois réservées à quelques-uns. Elle peut aussi imiter, manipuler et industrialiser le mensonge. Ironie supplémentaire : des technologies utilisant l’intelligence artificielle servent déjà à détecter des fraudes que d’autres technologies permettent de perfectionner. La machine commence donc à poursuivre la machine.

Reste l’humain. C’est probablement là que se trouve l’essentiel. Nous allons devoir apprendre à conjuguer deux comportements qui semblent contradictoires : conserver notre capacité à faire confiance et acquérir le réflexe de vérifier. Car une société où personne ne vérifie rien devient le paradis des escrocs, mais une société où personne ne croit plus personne deviendrait rapidement un enfer pour tout le monde. Le véritable enjeu du numérique et de l’intelligence artificielle n’est donc peut-être pas seulement de savoir jusqu’où les machines pourront aller. Il est de déterminer ce que nous voulons préserver entre les êtres humains. Dans un monde où une image peut mentir, où une voix peut être imitée et où un inconnu peut connaître une partie de notre vie,

La confiance pourrait devenir paradoxalement l’une de nos ressources les plus précieuses. À condition de comprendre qu’au XXIᵉ siècle faire confiance ne signifie plus croire aveuglément. Cela signifie croire suffisamment en l’autre pour continuer à vivre ensemble, et douter suffisamment de la machine pour prendre le temps de vérifier.

Dans un monde où une image peut mentir, où une voix peut être imitée et où un inconnu peut en savoir beaucoup sur notre vie, la confiance pourrait bien devenir l’une de nos ressources les plus précieuses. À condition de comprendre qu’au XXIᵉ siècle, faire confiance ne signifie plus croire les yeux fermés. Il faudra continuer à croire en l’humain, mais apprendre à vérifier la machine. Finalement, nos grands-mères avaient peut-être inventé la cybersécurité bien avant Internet lorsqu’elles nous répétaient : « Méfie-toi quand même… on ne sait jamais ! »

Et puisqu’il paraît désormais possible de fabriquer une voix, un visage, un banquier, un amoureux et presque une réalité entière avec quelques clics, gardons au moins un vieux réflexe qui ne nécessite ni mot de passe ni mise à jour : avant de cliquer, faisons fonctionner ce qui se trouve encore entre nos deux oreilles.

Gilles Desnoix