I presentatori generati dall’intelligenza artificiale sono già utilizzati per vendere prodotti nelle dirette streaming. Un volto convincente, una voce fluida e gesti familiari riproducono l’apparenza di una persona che si rivolge a un pubblico. Le possibilità commerciali sono facili da cogliere. Per comprendere la questione più profonda, però, consideriamo un caso semplice: un presentatore sintetico che raccomanda una crema per la pelle.

Il presentatore può descrivere gli ingredienti, spiegare le istruzioni o comunicare i risultati di un test autentico. Ma che cosa succede se una persona inventata dice: «L’ho usata e la mia pelle stava meglio»? Quella figura non ha una pelle che si sia irritata, non ha provato un fastidio che sia poi scomparso e non ha vissuto una mattina in cui si sia guardata allo specchio e abbia notato un cambiamento. Ci viene offerta un’esperienza d’uso del prodotto che non ha mai avuto luogo.

Un presentatore sintetico può trasmettere fedelmente l’esperienza di una persona reale quando la fonte è chiara. Anche un personaggio fittizio può comparire in una pubblicità di cui sia compresa la natura fittizia. Il problema emerge quando un testimone fabbricato viene presentato come qualcuno che parla sulla base di un’esperienza personale. Anche se il prodotto stesso è reale, la relazione apparente tra il prodotto e la persona che lo raccomanda può essere inventata.

La pubblicità ha sempre utilizzato performance, corpi idealizzati, situazioni messe in scena e promesse. Riconoscere un intento persuasivo ci aiuta a interpretare ciò che vediamo; questa comprensione ha un nome nella ricerca (conoscenza della persuasione). Riconoscerlo non ci rende immuni all’influenza, ma ci offre una cornice. Un personaggio commerciale inserito nelle conversazioni ordinarie, nelle routine quotidiane e nei consigli apparentemente spontanei può rendere più difficile mantenere quella cornice. Il messaggio di vendita arriva attraverso i gesti familiari della vita quotidiana.

Eppure le conseguenze potrebbero andare molto oltre l’acquisto della crema sbagliata. Da un flusso di esempi impariamo come sono i corpi, come funzionano le relazioni, con quale rapidità arriva il successo, come si comporta la natura e che cosa gli altri presumibilmente vogliono. Questi esempi possono diventare i criteri che portiamo con noi nel mondo. Un’esperienza inventata può influenzare un acquisto reale; un accumulo di esperienze inventate potrebbe influenzare il mondo che impariamo ad aspettarci.

Mio figlio di vent’anni, cresciuto nel mondo digitale, mi dice spesso che considera con sospetto tutto ciò che vede online. Lo prendo sul serio. È un’osservazione personale e solleva una domanda che va oltre le nostre conversazioni: che cosa accade quando un’abitudine al sospetto appresa online accompagna qualcuno nella vita quotidiana? E prima ancora che una persona decida se qualcosa sia degno di fiducia, che cosa le hanno già insegnato quelle immagini su come funziona il mondo?

Gran parte di ciò che sappiamo ci arriva attraverso altre persone, libri, immagini e schermi. Non possiamo fare personalmente esperienza di ogni luogo, evento o processo scientifico che abbiamo bisogno di comprendere. La mediazione digitale fa quindi parte del modo in cui incontriamo la realtà. La difficoltà aumenta quando esempi apparentemente fattuali offrono rappresentazioni convincenti di eventi, vite o esperienze che non hanno mai avuto luogo, nascondendo l’assenza dell’esperienza di cui sembrano dare testimonianza.

La spiegazione dell’apprendimento attraverso i media proposta da Albert Bandura aiuta a comprendere l’importanza di questa distinzione. Osservando dei modelli, le persone possono acquisire modi di pensare e di agire senza vivere esse stesse le medesime esperienze. Possono anche ricavare regole generali dagli esempi e applicarle in altre situazioni. Questo processo (apprendimento osservativo e modellamento) comporta più della semplice imitazione di un gesto specifico. Ciò che osserviamo può contribuire ai criteri attraverso cui interpretiamo le esperienze successive.

Questo non rende gli spettatori passivi né le loro risposte inevitabili. Le persone interrogano, confrontano, riflettono e rivedono le proprie idee. Tuttavia, sapere che un’immagine è artificiale e accorgersi di come plasmi le nostre aspettative sono due risultati diversi. Qualcuno può comprendere perfettamente che una figura esiste soltanto su uno schermo e usare comunque il suo aspetto, la sua disponibilità o il suo successo apparente come riferimento nel giudicare una giornata ordinaria.

Consideriamo che cosa potrebbero contenere questi riferimenti. Un corpo senza fatica, invecchiamento o un’inquadratura sfavorevole. Una vita di successo dalla quale sono scomparsi anni di sforzi, incertezza e tentativi falliti. Un compagno sempre paziente, attento e interessato. Incontri ripetuti con esempi simili potrebbero rendere più difficile accettare i limiti ordinari di una vita vissuta in un corpo. Che cosa accade alla nostra idea di una vita ragionevole quando i suoi modelli più visibili non devono viverne una?

La stessa domanda si estende alla natura. Immaginiamo video sintetici in cui gli animali selvatici si comportano ripetutamente come affettuosi compagni umani, i paesaggi appaiono perennemente spettacolari o i processi vitali si svolgono senza le loro condizioni e tempistiche reali. Se gli spettatori trattano queste scene come registrazioni di ciò che è accaduto, che cosa potrebbero imparare sugli animali, sugli ambienti o sulla crescita? Una foresta reale comprende attesa, disagio, decomposizione e lunghi intervalli in cui non accade nulla di notevole per una telecamera. Che impressione potrebbe fare a qualcuno le cui aspettative sono state formate da uno spettacolo ininterrotto?

La finzione e l’immaginazione possono insegnarci molto. Una storia può approfondire la compassione, un’animazione può spiegare un processo scientifico e un ambiente simulato può aiutare a comprendere un sistema reale. La questione riguarda il rapporto tra la rappresentazione e ciò che sostiene di rappresentare. Veniamo invitati a entrare in una storia, ci viene mostrato un modello con limiti dichiarati oppure ci viene chiesto di credere che un evento sia accaduto? Sono relazioni diverse con lo spettatore, anche quando le loro immagini appaiono altrettanto convincenti.

Questo aiuta anche a spiegare perché qualcuno potrebbe seguire un influencer virtuale. Le persone possono provare attrazione, curiosità, conforto o identificazione pur sapendo che una figura è artificiale. Una bella immagine può essere piacevole. Una voce familiare può diventare parte di una routine. Un legame unilaterale con una figura mediatica ricorrente (relazione parasociale) può accompagnarsi a sentimenti reali. La consapevolezza dell’artificialità non elimina automaticamente il valore emotivo dell’incontro.

Possiamo anche attribuire qualità umane a una figura non umana (antropomorfismo). Un’espressione che reagisce o una risposta apparentemente premurosa possono invitarci a percepire una personalità dietro la presentazione. In uno studio controllato pubblicato nel 2022, Sophie Nightingale e Hany Farid hanno riscontrato che i partecipanti avevano difficoltà a distinguere alcuni volti sintetizzati da quelli reali e giudicavano, in media, i volti sintetizzati più degni di fiducia. Questi risultati riguardano specifiche immagini statiche e condizioni sperimentali. Illustrano comunque come un’apparenza possa invitare a formulare un giudizio che non è stato meritato attraverso il comportamento.

I sentimenti di uno spettatore possono essere reali mentre la persona che sembra riceverli è fittizia. Il piacere, da solo, non basta a stabilire che un consiglio nasca dall’esperienza, che una risposta rifletta premura o che il personaggio abbia obblighi verso il proprio pubblico. Una persona può apprezzare una figura virtuale come intrattenimento e continuare a chiedersi come siano state prodotte le sue affermazioni commerciali. La difficoltà comincia quando il piacere della familiarità diventa silenziosamente un motivo per fidarsi di una testimonianza.

La perfezione potrebbe finire per contare meno di un’imperfezione credibile. Un personaggio commerciale potrebbe essere dotato di momenti d’imbarazzo, piccoli errori, vulnerabilità apparente e racconti di delusione. Questi dettagli possono farlo sentire più vicino. Un sistema futuro potrebbe adattare il proprio modo di porsi a ciò che determinati spettatori trovano rassicurante o attraente. Questa è una proiezione, non una descrizione di tutte le applicazioni attuali, ma indica una possibilità seria: i segni attraverso cui riconosciamo l’autenticità possono diventare essi stessi materiale per la sua fabbricazione.

Lo stesso meccanismo compare anche senza un volto. Un gran numero di telefoni o account può generare visite che appaiono organiche. Le recensioni possono descrivere acquisti che non sono mai avvenuti. I commenti possono creare l’impressione di un entusiasmo condiviso da persone indipendenti. I follower e i «mi piace» possono suggerire un pubblico che non si è formato nel modo che i numeri lasciano intendere. Qui l’esperienza mancante diventa una folla mancante: tracce visibili di attività collettiva senza la corrispondente partecipazione indipendente.

Questo conta perché le scelte apparenti degli altri contribuiscono a orientare le nostre. Quando l’incertezza rende difficile una valutazione diretta, cerchiamo spesso indizi di ciò che gli altri approvano (riprova sociale). In un esperimento randomizzato pubblicato nel 2013, Lev Muchnik, Sinan Aral e Sean Taylor hanno riscontrato che la manipolazione di valutazioni precedenti influenzava i voti successivi su una piattaforma social dedicata alle notizie. Quello studio non riguardava gli influencer generati dall’IA. Mostrava, tuttavia, che un giudizio visualizzato può contribuire a produrre giudizi successivi invece di limitarsi a registrarli.

Un segnale fabbricato può quindi fare più che decorare una pagina. Può plasmare ciò che i visitatori successivi percepiscono come credibile, desiderabile o ampiamente accettato. Se le persone vi rispondono, una parte dell’attività successiva può diventare autentica anche quando l’impressione iniziale era artificiale. Questo complica l’idea che la popolarità sia un riflesso neutrale di preferenze indipendenti. In determinate condizioni, la popolarità apparente partecipa alla creazione della preferenza che sembra soltanto registrare.

Per una persona che impara a conoscere il mondo attraverso questi ambienti, la lezione può andare oltre un singolo prodotto. Un consenso apparente ripetuto può suggerire che cosa conti come successo, attrattiva, intelligenza o comportamento normale. La preoccupazione diventa particolarmente seria quando molte voci presumibilmente indipendenti vengono generate o coordinate dalla stessa fonte. Uno spettatore sembra ascoltare un mondo sociale, mentre incontra versioni ripetute di un insieme di interessi molto più ristretto.

Una possibile reazione è un crescente scetticismo. Un’altra è lo sfinimento: se ogni immagine, voce e raccomandazione richiede un’indagine, una persona potrebbe alla fine rinunciare a valutare con attenzione. Potrebbe respingere prove che non le sono familiari, accettare soltanto ciò che proviene da un gruppo che predilige oppure fidarsi di ciò che le appare emotivamente più plausibile. Sono reazioni possibili, non un unico futuro che attende tutti. Eppure una produzione diffusa di falsi potrebbe rendere il lavoro di discernimento più impegnativo proprio quando le persone hanno meno pazienza per svolgerlo.

La ricerca sui video politici sintetici offre un avvertimento limitato ma pertinente. In uno studio del 2020, Cristian Vaccari e Andrew Chadwick hanno riscontrato che un deepfake poteva generare incertezza più facilmente che indurre gli spettatori a credere al contenuto falso, e che questa incertezza era collegata a una riduzione della fiducia nelle notizie sui social media. Questo non dimostra che la sfiducia si estenda poi alle amicizie, alla vita familiare o agli incontri con la natura. Questo passaggio più ampio resta una questione che richiede prove proprie. Lo studio mostra però perché contare soltanto quante persone abbiano creduto a una falsificazione possa far perdere di vista una parte del suo effetto.

Esiste anche una conseguenza per le prove autentiche. Bobby Chesney e Danielle Citron descrivono il «dividendo del bugiardo»: la consapevolezza che le registrazioni possano essere fabbricate può rendere più facile respingere come falso del materiale autentico. Un evento reale viene gravato da un ulteriore onere di prova perché sono possibili eventi falsi ma convincenti. In queste condizioni, falsificazioni migliori possono indebolire il valore di prove che non hanno nulla di artificiale.

Un’abitudine simile potrebbe estendersi anche agli incontri faccia a faccia? Una persona potrebbe diventare più pronta a interpretare la gentilezza come strategia, la vulnerabilità come performance o una testimonianza come copione preparato? Dovremmo evitare di presentare questo passaggio come una conseguenza accertata dell’IA. Ma dovremmo anche evitare di considerare lo schermo un ambiente chiuso le cui abitudini finiscono quando si spegne. Le persone portano aspettative apprese nei propri incontri, e queste aspettative possono influenzare ciò che notano, come lo interpretano e come reagiscono.

Il rischio può riguardare sia credenze ingiustificate sia un’incredulità ingiustificata. Una persona può assorbire criteri poco realistici da esempi artificiali e, allo stesso tempo, diventare sospettosa verso esperienze autentiche che non vi si conformano. Potrebbe aspettarsi successi senza sforzo e dubitare di un resoconto onesto delle difficoltà. Potrebbe aspettarsi una disponibilità costante e interpretare un limite ordinario come indifferenza. Questa combinazione potrebbe mettere la realtà di fronte a due richieste contemporanee: somigliare all’immagine convincente e dimostrare che merita di essere creduta.

Potrebbe esserci anche un processo di retroazione. Le persone che vedono determinate performance premiate online potrebbero riprodurle nella vita quotidiana. Quelle performance reali possono poi essere registrate e circolare come nuovi esempi di come le persone si comportano naturalmente. Uno schema inizialmente costruito acquisisce un’espressione vissuta che sembra confermarlo. È l’interpretazione di un meccanismo possibile, non la prova che la società si stia muovendo uniformemente in quella direzione. Ci invita comunque a considerare come le rappresentazioni e i comportamenti possano plasmarsi a vicenda.

L’idea di iperrealtà di Jean Baudrillard offre una prospettiva filosofica su questo problema: le rappresentazioni possono diventare i riferimenti attraverso cui viene giudicato il mondo che rappresentano. Applicando questa prospettiva al nostro caso, la domanda è se un’immagine sintetica della vita cominci a stabilire i criteri in base ai quali la vita reale appare all’altezza. Una relazione, un corpo, un animale o un paesaggio può allora sembrare deludente perché non si comporta come la sua rappresentazione più convincente.

A quel punto, la questione riguarda la nostra comprensione di ciò che è reale, naturale, possibile e normale. Un’immagine plausibile può far sembrare qualcosa possibile senza dimostrare che lo sia. La ripetizione può far sembrare qualcosa comune senza stabilire quanto spesso accada. Un racconto espresso con sicurezza può suonare come una testimonianza senza che ci sia un testimone dietro. Queste distinzioni contano perché prendiamo decisioni reali sulla base delle aspettative che ricaviamo da ciò che incontriamo.

Come possono allora queste aspettative restare aperte alla correzione? L’esperienza diretta aiuta, ma è anch’essa limitata e fallibile. Abbiamo bisogno di altre persone, di un’informazione giornalistica accurata, di indagini indipendenti, di metodi scientifici e di relazioni la cui affidabilità possa essere valutata nel tempo. La domanda utile è che cosa sostenga una particolare affermazione: un’esperienza di cui si possa identificare la fonte, un test riproducibile, osservazioni indipendenti oppure una presentazione la cui base resta poco chiara. Un volto realistico non può rispondere a questa domanda al posto nostro.

Un’indicazione chiara può aiutare a stabilire con quale tipo di figura abbiamo a che fare. Lascia anche altre questioni da affrontare. Sapere che un presentatore è sintetico ci dice qualcosa su come è stato costruito; non ci dice se le sue affermazioni siano accurate o se la sua esperienza apparente abbia una fonte reale. Allo stesso modo, sapere che un’immagine è fittizia non rivela necessariamente tutte le aspettative che abbiamo appreso guardandola.

Forse la consapevolezza deve comprendere anche questo secondo livello di attenzione. Possiamo chiedere se una scena sia accaduta e anche che cosa ci abbia insegnato ad aspettarci. Che tipo di corpo appare ormai ordinario? Con quale rapidità ci sembra ragionevole raggiungere il successo? Quale comportamento ci aspettiamo dagli animali, dagli amici o dai partner? Quali frustrazioni abbiamo cominciato a interpretare come fallimenti perché gli esempi rispetto ai quali le giudichiamo non contenevano limiti comparabili?

Queste domande valgono anche per questo saggio. I risultati della ricerca, un’osservazione personale e una proiezione futura offrono tipi diversi di sostegno. L’aiuto dell’IA nello sviluppo e nell’espressione di un’argomentazione non può fornire un’esperienza di prima mano che l’autore non ha vissuto né trasformare un’interpretazione plausibile in un risultato accertato. Un testo che chiede ai lettori di esaminare le apparenze deve loro chiarezza sui fondamenti delle proprie affermazioni.

Abbiamo cominciato con un presentatore sintetico che raccomanda un prodotto. Vista da questa prospettiva più ampia, quella scena potrebbe anche contribuire a un modello dei corpi, dell’esperienza, della credibilità e della vita quotidiana. Il suo scopo commerciale immediato è soltanto una parte di ciò che uno spettatore può impararne.

Quando impariamo a conoscere il mondo attraverso vite, esperienze ed eventi sintetici presentati come se fossero accaduti, che cosa arriveremo ad accettare come reale, naturale, possibile e normale? E quando ci allontaneremo dallo schermo, secondo quali di quei criteri continueremo a vivere?

**Fonti**

- JD Corporate Blog. Annuncio sul rappresentante digitale generato dall’IA utilizzato nel debutto in livestream di Richard Liu, 22 aprile 2024. - Marian Friestad e Peter Wright. *The Persuasion Knowledge Model: How People Cope with Persuasion Attempts.* Journal of Consumer Research, 1994. - Albert Bandura. *Social Cognitive Theory of Mass Communication.* Media Psychology, 2001. - Sophie J. Nightingale e Hany Farid. *AI-synthesized faces are indistinguishable from real faces and more trustworthy.* Proceedings of the National Academy of Sciences, 2022. - Lev Muchnik, Sinan Aral e Sean J. Taylor. *Social Influence Bias: A Randomized Experiment.* Science, 2013. - Cristian Vaccari e Andrew Chadwick. *Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News.* Social Media + Society, 2020. - Bobby Chesney e Danielle Citron. *Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security.* California Law Review, 2019. - Jean Baudrillard. *Simulacra and Simulation.* Edizione inglese, 1994.