Des présentateurs générés par l’intelligence artificielle sont déjà utilisés pour vendre des produits lors de diffusions en direct. Un visage convaincant, une voix fluide et des gestes familiers reproduisent l’apparence d’une personne qui s’adresse à un public. Les possibilités commerciales sont faciles à percevoir. Pour comprendre l’enjeu plus profond, considérons toutefois un cas simple : un présentateur synthétique qui recommande une crème pour la peau.

Le présentateur peut décrire les ingrédients, expliquer le mode d’emploi ou communiquer les résultats d’un véritable test. Mais que se passe-t-il lorsqu’une personne inventée dit : « Je l’ai utilisée, et ma peau s’est mieux portée » ? Cette figure n’a pas de peau qui se soit irritée, n’a ressenti aucun inconfort qui aurait disparu et n’a connu aucun matin où elle se serait regardée dans le miroir pour remarquer un changement. On nous propose une expérience d’utilisation du produit qui n’a jamais eu lieu.

Un présentateur synthétique peut transmettre fidèlement l’expérience d’une personne réelle lorsque cette source est clairement identifiée. Un personnage fictif peut également apparaître dans une publicité dont le caractère fictif est compris. Le problème surgit lorsqu’un témoin fabriqué est présenté comme quelqu’un qui parle à partir d’une expérience personnelle. Même si le produit lui-même est réel, la relation apparente entre ce produit et la personne qui le recommande peut être inventée.

La publicité a toujours utilisé des performances, des corps idéalisés, des situations mises en scène et des promesses. Reconnaître une intention de persuasion nous aide à interpréter ce que nous voyons ; les chercheurs ont donné un nom à cette compréhension (connaissance de la persuasion). Cette reconnaissance ne nous rend pas insensibles à l’influence, mais elle nous fournit un cadre. Un personnage commercial intégré à des conversations ordinaires, à des habitudes quotidiennes et à des recommandations apparemment spontanées peut rendre ce cadre plus difficile à maintenir. L’argument de vente nous parvient à travers les gestes familiers de la vie quotidienne.

Pourtant, les conséquences pourraient aller bien au-delà de l’achat d’une mauvaise crème. À travers une succession d’exemples, nous apprenons à quoi ressemblent les corps, comment fonctionnent les relations, à quelle vitesse arrive le succès, comment se comporte la nature et ce que les autres sont censés vouloir. Ces exemples peuvent devenir les repères que nous emportons dans le monde. Une expérience inventée peut influencer un achat réel ; une accumulation d’expériences inventées pourrait influencer le monde que nous apprenons à attendre.

Mon fils de vingt ans, qui a grandi dans le monde numérique, me dit souvent qu’il aborde avec méfiance tout ce qu’il voit en ligne. Je prends cela au sérieux. C’est une observation personnelle, et elle soulève une question qui dépasse nos conversations : que se passe-t-il lorsqu’une habitude de méfiance apprise en ligne accompagne quelqu’un dans la vie quotidienne ? Et avant même qu’une personne décide si quelque chose mérite sa confiance, que lui ont déjà appris ces images sur la manière dont le monde fonctionne ?

Une grande partie de ce que nous savons nous vient des autres, des livres, des images et des écrans. Nous ne pouvons pas faire personnellement l’expérience de chaque lieu, de chaque événement ou de chaque processus scientifique que nous avons besoin de comprendre. La médiation numérique fait donc partie de notre rencontre avec la réalité. La difficulté grandit lorsque des exemples apparemment factuels proposent des représentations convaincantes d’événements, de vies ou d’expériences qui n’ont jamais eu lieu, tout en dissimulant l’absence de l’expérience dont ils semblent témoigner.

L’analyse qu’Albert Bandura propose de l’apprentissage à travers les médias aide à comprendre l’importance de cette distinction. En observant des modèles, les individus peuvent acquérir des façons de penser et d’agir sans vivre eux-mêmes les mêmes expériences. Ils peuvent également dégager des règles générales à partir d’exemples et les appliquer dans d’autres situations. Ce processus (apprentissage par observation et modelage) dépasse la simple reproduction d’un geste particulier. Ce que nous observons peut contribuer aux critères à travers lesquels nous interprétons nos expériences ultérieures.

Cela ne rend pas les spectateurs passifs et ne rend pas leurs réactions inévitables. Les individus questionnent, comparent, réfléchissent et révisent leurs jugements. Néanmoins, savoir qu’une image est artificielle et remarquer comment elle façonne nos attentes sont deux acquis différents. Quelqu’un peut parfaitement comprendre qu’une figure existe uniquement sur un écran, tout en utilisant son apparence, sa disponibilité ou son succès apparent comme référence pour évaluer une journée ordinaire.

Considérons ce que ces références pourraient contenir. Un corps sans fatigue, sans vieillissement et sans angle peu flatteur. Une vie réussie dont ont disparu les années d’effort, d’incertitude et de tentatives infructueuses. Un compagnon toujours patient, attentif et intéressé. Des rencontres répétées avec de tels exemples pourraient rendre plus difficiles à accepter les limites ordinaires d’une vie incarnée. Qu’advient-il de notre idée d’une vie raisonnable lorsque ses modèles les plus visibles n’ont pas à en vivre une ?

La même question s’étend à la nature. Imaginons des vidéos synthétiques dans lesquelles des animaux sauvages se comportent régulièrement comme des compagnons humains affectueux, des paysages paraissent continuellement spectaculaires ou des processus vivants se déroulent sans leurs conditions et leurs temporalités réelles. Si les spectateurs considèrent ces scènes comme des enregistrements de ce qui s’est passé, que pourraient-ils apprendre sur les animaux, les milieux naturels ou la croissance ? Une véritable forêt comprend de l’attente, de l’inconfort, de la décomposition et de longues périodes pendant lesquelles rien de remarquable ne se produit pour une caméra. Quel effet pourrait-elle faire à quelqu’un dont les attentes ont été façonnées par un spectacle ininterrompu ?

La fiction et l’imagination peuvent nous apprendre beaucoup. Une histoire peut approfondir la compassion, une animation peut expliquer un processus scientifique et un environnement simulé peut aider à comprendre un système réel. La question concerne la relation entre la représentation et ce qu’elle prétend représenter. Sommes-nous invités à entrer dans une histoire, nous présente-t-on un modèle dont les limites sont reconnues, ou nous demande-t-on de croire qu’un événement a eu lieu ? Ce sont des relations différentes avec le spectateur, même lorsque leurs images semblent tout aussi convaincantes.

Cela aide également à comprendre pourquoi quelqu’un pourrait suivre un influenceur virtuel. Les individus peuvent ressentir de l’attirance, de la curiosité, du réconfort ou de l’identification tout en sachant qu’une figure est artificielle. Une belle image peut être agréable. Une voix familière peut devenir une habitude. Un attachement à sens unique envers une figure médiatique récurrente (relation parasociale) peut s’accompagner de sentiments réels. La conscience du caractère artificiel d’une rencontre n’en supprime pas automatiquement la valeur émotionnelle.

Nous pouvons également attribuer des qualités humaines à une figure non humaine (anthropomorphisme). Une expression qui réagit ou une réponse apparemment attentionnée peut nous inviter à percevoir une personnalité derrière la présentation. Dans une étude contrôlée publiée en 2022, Sophie Nightingale et Hany Farid ont constaté que les participants avaient du mal à distinguer certains visages synthétiques de visages réels et jugeaient, en moyenne, les visages synthétiques plus dignes de confiance. Ces résultats concernent des images fixes particulières et des conditions expérimentales précises. Ils illustrent néanmoins comment une apparence peut inviter à un jugement qui n’a pas été mérité par un comportement.

Les sentiments d’un spectateur peuvent être réels alors que la personne qui semble les recevoir est fictive. Le plaisir, à lui seul, ne permet pas d’établir qu’une recommandation provient d’une expérience, qu’une réponse traduit de la sollicitude ou que le personnage a des obligations envers son public. Quelqu’un peut apprécier une figure virtuelle comme divertissement tout en demandant comment ses affirmations commerciales ont été produites. La difficulté commence lorsque le plaisir de la familiarité devient discrètement une raison de faire confiance à un témoignage.

La perfection pourrait finir par compter moins qu’une imperfection crédible. Un personnage commercial pourrait être doté de moments maladroits, de petites erreurs, d’une vulnérabilité apparente et de récits de déception. Ces détails peuvent le rendre plus proche. Un système futur pourrait adapter sa manière d’être à ce que certains spectateurs trouvent rassurant ou attirant. Il s’agit d’une projection, et non d’une description de toutes les applications actuelles, mais elle indique une possibilité sérieuse : les signes par lesquels nous reconnaissons l’authenticité peuvent eux-mêmes devenir des matériaux de fabrication.

Le même mécanisme apparaît sans visage. Un grand nombre de téléphones ou de comptes peut générer des visites qui semblent organiques. Des avis peuvent décrire des achats qui n’ont jamais eu lieu. Des commentaires peuvent créer l’impression d’un enthousiasme partagé par des personnes indépendantes. Les abonnés et les mentions « J’aime » peuvent suggérer un public qui ne s’est pas constitué de la manière que les chiffres laissent entendre. Ici, l’expérience inexistante laisse place à une foule inexistante : des traces visibles d’une activité collective sans la participation indépendante correspondante.

Cela compte parce que les choix apparents des autres contribuent à orienter les nôtres. Lorsque l’incertitude rend difficile une évaluation directe, nous cherchons souvent des indications de ce que les autres approuvent (preuve sociale). Dans une expérience randomisée publiée en 2013, Lev Muchnik, Sinan Aral et Sean Taylor ont constaté que la manipulation d’évaluations antérieures influençait les votes ultérieurs sur une plateforme d’actualités sociales. Cette étude ne portait pas sur les influenceurs générés par l’IA. Elle montrait toutefois qu’un jugement affiché peut contribuer à produire les jugements suivants plutôt que simplement les enregistrer.

Un signal fabriqué peut donc faire davantage que décorer une page. Il peut façonner ce que les visiteurs ultérieurs perçoivent comme crédible, désirable ou largement accepté. Si des personnes y réagissent, une partie de l’activité qui suit peut devenir authentique, même si l’impression initiale était artificielle. Cela complique l’idée selon laquelle la popularité serait un reflet neutre de préférences indépendantes. Dans certaines conditions, la popularité apparente participe à la création de la préférence qu’elle semble simplement rapporter.

Pour quelqu’un qui découvre le monde à travers ces environnements, la leçon peut dépasser un seul produit. Une apparente convergence répétée peut suggérer ce qui compte comme réussite, attractivité, intelligence ou comportement normal. Le problème devient particulièrement sérieux lorsque de nombreuses voix supposées indépendantes sont générées ou coordonnées par une même source. Un spectateur semble entendre un monde social, alors qu’il rencontre des versions répétées d’un ensemble d’intérêts beaucoup plus restreint.

Une réaction possible est un scepticisme croissant. Une autre est l’épuisement : si chaque image, chaque voix et chaque recommandation exige une enquête, une personne peut finir par cesser de chercher à juger avec soin. Elle pourrait rejeter des preuves qui ne lui sont pas familières, accepter uniquement ce qui provient d’un groupe qu’elle privilégie ou faire confiance à ce qui lui paraît le plus plausible sur le plan émotionnel. Ce sont des réactions possibles, pas un avenir unique qui attend tout le monde. Pourtant, une fabrication généralisée pourrait rendre le travail de discernement plus exigeant précisément lorsque les individus ont moins de patience pour l’accomplir.

La recherche sur les vidéos politiques synthétiques fournit un avertissement limité mais pertinent. Dans une étude de 2020, Cristian Vaccari et Andrew Chadwick ont constaté qu’un deepfake pouvait davantage susciter l’incertitude qu’amener les spectateurs à croire un contenu fabriqué, cette incertitude étant liée à une baisse de confiance dans les informations diffusées sur les réseaux sociaux. Cela ne démontre pas que la méfiance se propage ensuite aux amitiés, à la vie familiale ou aux rencontres avec la nature. Ce mouvement plus large demeure une question qui exige ses propres preuves. L’étude montre cependant pourquoi compter uniquement le nombre de personnes ayant cru une fabrication peut laisser échapper une partie de son effet.

Il existe aussi une conséquence pour les preuves authentiques. Bobby Chesney et Danielle Citron décrivent le « dividende du menteur » : savoir que des enregistrements peuvent être fabriqués peut faciliter le rejet d’un document authentique comme étant faux. Un événement réel se trouve soumis à une exigence supplémentaire de preuve parce que des événements faux mais convaincants sont possibles. Dans ces conditions, des fabrications plus efficaces peuvent affaiblir la valeur de preuves qui n’ont rien d’artificiel.

Une habitude semblable pourrait-elle s’étendre aux rencontres en personne ? Quelqu’un pourrait-il en venir à interpréter plus rapidement la gentillesse comme une stratégie, la vulnérabilité comme une performance ou un témoignage comme un scénario préparé ? Nous devons éviter de présenter ce mouvement comme une conséquence établie de l’IA. Mais nous devons également éviter de traiter l’écran comme un environnement hermétique dont les habitudes s’arrêtent lorsqu’il s’éteint. Les individus emportent leurs attentes apprises dans leurs rencontres, et ces attentes peuvent influencer ce qu’ils remarquent, la façon dont ils l’interprètent et leurs réactions.

Le risque peut associer une croyance injustifiée et une incrédulité injustifiée. Une personne peut absorber des critères irréalistes à partir d’exemples artificiels tout en devenant méfiante envers des expériences authentiques qui ne leur correspondent pas. Elle pourrait attendre une réussite sans effort tout en doutant d’un récit honnête des difficultés rencontrées. Elle pourrait attendre une disponibilité constante tout en interprétant une limite ordinaire comme de l’indifférence. Cette combinaison pourrait placer la réalité face à deux exigences simultanées : ressembler à l’image convaincante et prouver qu’elle mérite d’être crue.

Il peut également y avoir un processus de rétroaction. Les personnes qui voient certaines performances récompensées en ligne pourraient les reproduire dans leur vie quotidienne. Ces performances réelles peuvent ensuite être enregistrées et diffusées comme de nouveaux exemples de la manière dont les gens se comportent naturellement. Un modèle initialement construit acquiert une expression vécue, qui paraît le confirmer. C’est l’interprétation d’un mécanisme possible, pas la preuve que la société évolue uniformément dans cette direction. Elle nous demande néanmoins d’examiner comment les représentations et les conduites peuvent se façonner mutuellement.

L’idée d’hyperréalité de Jean Baudrillard offre une perspective philosophique sur ce problème : les représentations peuvent devenir les références à partir desquelles le monde qu’elles représentent est jugé. Appliquée ici, la question est de savoir si une image synthétique de la vie commence à définir les critères selon lesquels la vie réelle paraît à la hauteur. Une relation, un corps, un animal ou un paysage peut alors sembler décevant parce qu’il ne se comporte pas comme sa représentation, plus convaincante.

À ce stade, l’enjeu concerne notre compréhension de ce qui est réel, naturel, possible et normal. Une image plausible peut faire paraître quelque chose possible sans montrer que cela l’est. La répétition peut faire paraître quelque chose courant sans établir sa fréquence réelle. Un récit assuré peut ressembler à un témoignage sans qu’un témoin soit derrière lui. Ces distinctions comptent parce que nous prenons des décisions réelles avec les attentes que nous tirons de ce que nous rencontrons.

Comment, alors, ces attentes peuvent-elles rester ouvertes à la correction ? L’expérience directe aide, mais elle est également limitée et faillible. Nous avons besoin des autres, de reportages rigoureux, d’enquêtes indépendantes, de méthodes scientifiques et de relations dont la fiabilité peut être évaluée dans la durée. La question utile est de savoir ce qui soutient une affirmation particulière : une expérience dont on peut identifier l’origine, un test reproductible, des observations indépendantes ou une présentation dont le fondement reste obscur. Un visage réaliste ne peut pas répondre à cette question à notre place.

Une indication claire peut aider à établir quel type de figure nous rencontrons. Elle laisse également d’autres questions à examiner. Savoir qu’un présentateur est synthétique nous apprend quelque chose sur sa construction ; cela ne nous dit pas si ses affirmations sont exactes ou si son expérience apparente provient d’une source réelle. De même, savoir qu’une image est fictive ne révèle pas nécessairement toutes les attentes que nous avons acquises en la regardant.

Peut-être la conscience doit-elle inclure ce second niveau d’attention. Nous pouvons demander si une scène a eu lieu, mais aussi ce qu’elle nous a appris à attendre. Quel type de corps nous paraît désormais ordinaire ? Quel rythme de réussite nous semble raisonnable ? Quel comportement attendons-nous des animaux, de nos amis ou de nos partenaires ? Quelles difficultés avons-nous commencé à interpréter comme des échecs parce que les exemples auxquels nous les comparons ne comportaient pas de limites semblables ?

Ces questions s’appliquent également à cet essai. Des résultats de recherche, une observation personnelle et une projection future offrent différentes formes de justification. L’aide de l’IA pour développer et exprimer un argument ne peut pas fournir une expérience de première main que l’auteur n’a pas vécue, ni transformer une interprétation plausible en un résultat établi. Un texte qui demande aux lecteurs d’examiner les apparences leur doit de la clarté sur les fondements de ses propres affirmations.

Nous avons commencé par un présentateur synthétique qui recommande un produit. Vue dans cette perspective plus large, cette scène pourrait également contribuer à un modèle des corps, de l’expérience, de la crédibilité et de la vie ordinaire. Son objectif commercial immédiat n’est qu’une partie de ce qu’un spectateur peut en apprendre.

Lorsque nous découvrons le monde à travers des vies, des expériences et des événements synthétiques présentés comme s’ils avaient eu lieu, qu’allons-nous en venir à considérer comme réel, naturel, possible et normal ? Et lorsque nous nous éloignerons de l’écran, lesquels de ces repères continueront à guider notre vie ?

**Sources**

- JD Corporate Blog. Annonce concernant le représentant numérique généré par l’IA utilisé lors du premier livestream de Richard Liu, 22 avril 2024. - Marian Friestad et Peter Wright. *The Persuasion Knowledge Model: How People Cope with Persuasion Attempts.* Journal of Consumer Research, 1994. - Albert Bandura. *Social Cognitive Theory of Mass Communication.* Media Psychology, 2001. - Sophie J. Nightingale et Hany Farid. *AI-synthesized faces are indistinguishable from real faces and more trustworthy.* Proceedings of the National Academy of Sciences, 2022. - Lev Muchnik, Sinan Aral et Sean J. Taylor. *Social Influence Bias: A Randomized Experiment.* Science, 2013. - Cristian Vaccari et Andrew Chadwick. *Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News.* Social Media + Society, 2020. - Bobby Chesney et Danielle Citron. *Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security.* California Law Review, 2019. - Jean Baudrillard. *Simulacra and Simulation.* Édition anglaise, 1994.