Ya se utilizan presentadores generados por inteligencia artificial para vender productos en transmisiones en directo. Un rostro convincente, una voz fluida y unos gestos familiares reproducen la apariencia de una persona que se dirige a un público. Las posibilidades comerciales son fáciles de ver. Sin embargo, para comprender el problema más profundo, consideremos un caso sencillo: un presentador sintético que recomienda una crema para la piel.

El presentador puede describir los ingredientes, explicar las instrucciones o comunicar los resultados de una prueba auténtica. Pero ¿qué ocurre si una persona inventada dice: «La usé y mi piel se sintió mejor»? Esa figura no tiene una piel que se haya irritado, no ha sentido una molestia que después desapareciera ni ha vivido una mañana en la que se mirara al espejo y notara un cambio. Se nos ofrece una experiencia de uso del producto que nunca tuvo lugar.

Un presentador sintético puede comunicar fielmente la experiencia de una persona real cuando queda claro de quién procede. Un personaje ficticio también puede aparecer en un anuncio cuyo carácter ficticio se comprende. El problema surge cuando un testigo fabricado se presenta como alguien que habla desde una experiencia personal. Aunque el producto en sí sea real, la relación aparente entre el producto y la persona que lo recomienda puede ser inventada.

La publicidad siempre ha utilizado actuaciones, cuerpos idealizados, situaciones escenificadas y promesas. Reconocer una intención persuasiva nos ayuda a interpretar lo que vemos; esta comprensión recibe un nombre en la investigación (conocimiento de la persuasión). Reconocerla no nos hace inmunes a la influencia, pero nos proporciona un marco. Un personaje comercial integrado en conversaciones ordinarias, rutinas diarias y recomendaciones aparentemente espontáneas puede hacer más difícil mantener ese marco. El argumento de venta llega a través de los gestos familiares de la vida cotidiana.

Sin embargo, las consecuencias podrían ir mucho más allá de comprar la crema equivocada. A través de una sucesión de ejemplos, aprendemos cómo son los cuerpos, cómo funcionan las relaciones, con qué rapidez llega el éxito, cómo se comporta la naturaleza y qué se supone que quieren los demás. Esos ejemplos pueden convertirse en los criterios que llevamos al mundo. Una experiencia inventada puede influir en una compra real; una acumulación de experiencias inventadas podría influir en el mundo que aprendemos a esperar.

Mi hijo de veinte años, que creció en el mundo digital, me dice a menudo que aborda con desconfianza todo lo que ve en internet. Me lo tomo en serio. Es una observación personal, y plantea una pregunta que va más allá de nuestras conversaciones: ¿qué ocurre cuando un hábito de desconfianza aprendido en internet acompaña a alguien en la vida cotidiana? Y, antes incluso de que una persona decida si algo merece confianza, ¿qué le han enseñado ya esas imágenes sobre cómo funciona el mundo?

Gran parte de lo que sabemos nos llega a través de otras personas, libros, imágenes y pantallas. No podemos experimentar personalmente cada lugar, cada acontecimiento o cada proceso científico que necesitamos comprender. Por tanto, la mediación digital forma parte de la manera en que entramos en contacto con la realidad. La dificultad aumenta cuando ejemplos aparentemente basados en hechos ofrecen representaciones convincentes de acontecimientos, vidas o experiencias que nunca ocurrieron, mientras ocultan la ausencia de la experiencia de la que parecen dar testimonio.

La explicación de Albert Bandura sobre el aprendizaje a través de los medios ayuda a comprender la importancia de esta distinción. Al observar modelos, las personas pueden adquirir formas de pensar y actuar sin pasar ellas mismas por las mismas experiencias. También pueden extraer reglas generales de los ejemplos y aplicarlas en otras situaciones. Este proceso (aprendizaje por observación y modelado) implica algo más que copiar un gesto concreto. Lo que observamos puede contribuir a los criterios mediante los cuales interpretamos experiencias posteriores.

Esto no convierte a los espectadores en sujetos pasivos ni hace inevitables sus respuestas. Las personas cuestionan, comparan, reflexionan y revisan sus ideas. Aun así, saber que una imagen es artificial y advertir cómo moldea nuestras expectativas son dos logros distintos. Alguien puede comprender perfectamente que una figura solo existe en una pantalla y, sin embargo, utilizar su apariencia, su disponibilidad o su éxito aparente como referencia al evaluar un día corriente.

Consideremos qué podrían contener esas referencias. Un cuerpo sin fatiga, envejecimiento ni un ángulo poco favorecedor. Una vida exitosa de la que han desaparecido años de esfuerzo, incertidumbre e intentos fallidos. Un compañero que siempre es paciente, atento e interesado. Los encuentros repetidos con ejemplos así pueden hacer más difícil aceptar los límites ordinarios de una vida corporal. ¿Qué ocurre con nuestra noción de una vida razonable cuando sus modelos más visibles no tienen que vivir una?

La misma pregunta alcanza a la naturaleza. Imaginemos vídeos sintéticos en los que los animales salvajes se comportan repetidamente como compañeros humanos cariñosos, los paisajes parecen permanentemente espectaculares o los procesos vitales se desarrollan sin sus condiciones y sus tiempos reales. Si los espectadores consideran esas escenas como registros de lo que ocurrió, ¿qué podrían aprender sobre los animales, los entornos o el crecimiento? Un bosque real incluye espera, incomodidad, descomposición y largos periodos en los que no sucede nada extraordinario para una cámara. ¿Cómo podría percibirlo alguien cuyas expectativas se formaron mediante un espectáculo ininterrumpido?

La ficción y la imaginación pueden enseñarnos mucho. Una historia puede profundizar la compasión, una animación puede explicar un proceso científico y un entorno simulado puede ayudar a comprender un sistema real. La cuestión se refiere a la relación entre la representación y aquello que afirma representar. ¿Se nos invita a entrar en una historia, se nos muestra un modelo cuyos límites se reconocen o se nos pide que creamos que ocurrió un acontecimiento? Son relaciones distintas con el espectador, aunque sus imágenes parezcan igualmente convincentes.

Esto también ayuda a explicar por qué alguien podría seguir a un influencer virtual. Las personas pueden sentir atracción, curiosidad, consuelo o identificación aun sabiendo que una figura es artificial. Una imagen bella puede resultar agradable. Una voz familiar puede formar parte de una rutina. Un vínculo unilateral con una figura mediática recurrente (relación parasocial) puede ir acompañado de sentimientos reales. Saber que algo es artificial no elimina automáticamente el valor emocional del encuentro.

También podemos atribuir cualidades humanas a una figura no humana (antropomorfismo). Una expresión que responde o una contestación aparentemente considerada puede invitarnos a percibir una personalidad detrás de la presentación. En un estudio controlado publicado en 2022, Sophie Nightingale y Hany Farid observaron que los participantes tenían dificultades para distinguir ciertos rostros sintetizados de rostros reales y que, en promedio, calificaban los rostros sintetizados como más dignos de confianza. Estos resultados se refieren a determinadas imágenes estáticas y condiciones experimentales. Aun así, ilustran cómo una apariencia puede invitar a formar un juicio que no se ha ganado mediante la conducta.

Los sentimientos de un espectador pueden ser reales mientras que la persona que parece recibirlos es ficticia. El disfrute por sí solo no demuestra que una recomendación proceda de una experiencia, que una respuesta refleje interés por el bienestar de alguien o que el personaje tenga obligaciones hacia su público. Alguien puede disfrutar de una figura virtual como entretenimiento y seguir preguntando cómo se produjeron sus afirmaciones comerciales. La dificultad comienza cuando el placer de la familiaridad se convierte discretamente en una razón para confiar en un testimonio.

Con el tiempo, la perfección podría importar menos que una imperfección creíble. Un personaje comercial podría estar dotado de momentos torpes, pequeños errores, una vulnerabilidad aparente e historias de decepción. Estos detalles pueden hacerlo parecer más cercano. Un sistema futuro podría adaptar su manera de actuar a lo que determinados espectadores encuentran tranquilizador o atractivo. Esto es una proyección, no una descripción de todas las aplicaciones actuales, pero señala una posibilidad seria: los signos mediante los cuales reconocemos la autenticidad pueden convertirse, ellos mismos, en material para su fabricación.

El mismo mecanismo aparece sin un rostro. Una gran cantidad de teléfonos o cuentas puede generar visitas que parecen orgánicas. Las reseñas pueden describir compras que nunca ocurrieron. Los comentarios pueden crear la impresión de entusiasmo entre personas independientes. Los seguidores y los «me gusta» pueden sugerir un público que no se reunió de la manera que las cifras dan a entender. Aquí, la experiencia que falta se convierte en una multitud que falta: rastros visibles de actividad colectiva sin la correspondiente participación independiente.

Esto importa porque las elecciones aparentes de otras personas ayudan a orientar las nuestras. Cuando la incertidumbre dificulta una evaluación directa, a menudo buscamos indicios de lo que otros aprueban (prueba social). En un experimento aleatorizado publicado en 2013, Lev Muchnik, Sinan Aral y Sean Taylor observaron que la manipulación de valoraciones anteriores influía en los votos posteriores en una plataforma social de noticias. Ese estudio no trataba sobre influencers generados por IA. Sin embargo, mostró que un juicio mostrado puede contribuir a producir juicios posteriores en lugar de limitarse a registrarlos.

Por tanto, una señal fabricada puede hacer algo más que decorar una página. Puede moldear lo que los visitantes posteriores perciben como creíble, deseable o ampliamente aceptado. Si las personas responden a ella, parte de la actividad posterior puede llegar a ser auténtica, aunque la impresión inicial fuera artificial. Esto complica la idea de que la popularidad sea un reflejo neutral de preferencias independientes. En determinadas condiciones, la popularidad aparente participa en la creación de la preferencia que parece simplemente registrar.

Para una persona que aprende sobre el mundo a través de estos entornos, la lección puede ir más allá de un solo producto. Una aparente coincidencia repetida puede sugerir qué cuenta como éxito, atractivo, inteligencia o comportamiento normal. La preocupación se vuelve especialmente seria cuando muchas voces supuestamente independientes son generadas o coordinadas por una misma fuente. Un espectador parece estar escuchando un mundo social, mientras se encuentra con versiones repetidas de un conjunto de intereses mucho más reducido.

Una posible respuesta es un escepticismo creciente. Otra es el agotamiento: si cada imagen, cada voz y cada recomendación exige una investigación, una persona podría acabar dejando de intentar juzgar con cuidado. Podría descartar pruebas que no le resultan familiares, aceptar únicamente lo que procede de un grupo al que favorece o confiar en aquello que le parece emocionalmente más plausible. Son respuestas posibles, no un único futuro que espera a todo el mundo. Aun así, la fabricación generalizada podría hacer más exigente la tarea de distinguir precisamente cuando las personas tienen menos paciencia para realizarla.

La investigación sobre vídeos políticos sintéticos ofrece una advertencia limitada pero pertinente. En un estudio de 2020, Cristian Vaccari y Andrew Chadwick observaron que un deepfake podía generar incertidumbre más fácilmente que inducir a los espectadores a creer el contenido falso, y que esa incertidumbre estaba vinculada a una menor confianza en las noticias difundidas en redes sociales. Esto no demuestra que la desconfianza se extienda después a las amistades, a la vida familiar o a los encuentros con la naturaleza. Ese movimiento más amplio sigue siendo una pregunta que requiere sus propias pruebas. El estudio sí muestra por qué contar únicamente cuántas personas creyeron una falsificación puede pasar por alto parte de su efecto.

También hay una consecuencia para las pruebas auténticas. Bobby Chesney y Danielle Citron describen el «dividendo del mentiroso»: saber que las grabaciones pueden fabricarse puede facilitar que se descarte material auténtico como falso. Un acontecimiento real afronta una exigencia adicional de prueba porque pueden fabricarse versiones convincentes de acontecimientos que nunca sucedieron. En esas condiciones, unas falsificaciones mejores pueden debilitar la credibilidad de pruebas que no tienen nada de artificial.

¿Podría un hábito semejante llegar a los encuentros cara a cara? ¿Podría alguien volverse más propenso a interpretar la amabilidad como una estrategia, la vulnerabilidad como una actuación o un testimonio como un guion preparado? Debemos evitar presentar ese movimiento como una consecuencia establecida de la IA. Pero también debemos evitar tratar la pantalla como un entorno cerrado cuyos hábitos terminan cuando se apaga. Las personas llevan expectativas aprendidas a sus encuentros, y esas expectativas pueden afectar a lo que advierten, a cómo lo interpretan y a cómo responden.

El riesgo puede abarcar tanto creencias injustificadas como una incredulidad igualmente injustificada. Una persona puede absorber criterios poco realistas a partir de ejemplos artificiales mientras empieza a desconfiar de experiencias auténticas que no se ajustan a ellos. Podría esperar logros sin esfuerzo y, sin embargo, dudar de un relato honesto sobre las dificultades. Podría esperar una disponibilidad constante y, aun así, interpretar un límite ordinario como indiferencia. Esta combinación podría dejar a la realidad frente a dos exigencias simultáneas: parecerse a la imagen convincente y demostrar que merece ser creída.

También puede haber un proceso de retroalimentación. Las personas que ven ciertas actuaciones recompensadas en internet podrían reproducirlas en su vida cotidiana. Esas actuaciones reales pueden después grabarse y difundirse como nuevos ejemplos de cómo se comporta la gente de forma natural. Un patrón inicialmente construido adquiere una expresión vivida que parece confirmar el patrón. Esta es una interpretación de un mecanismo posible, no una prueba de que la sociedad avance uniformemente en esa dirección. Aun así, nos invita a considerar cómo las representaciones y las conductas pueden moldearse mutuamente.

La idea de hiperrealidad de Jean Baudrillard ofrece una perspectiva filosófica sobre este problema: las representaciones pueden convertirse en las referencias mediante las cuales se juzga el mundo que representan. Aplicada aquí, la pregunta es si una imagen sintética de la vida empieza a fijar las condiciones bajo las cuales la vida real parece estar a la altura. Una relación, un cuerpo, un animal o un paisaje podría entonces resultar decepcionante porque no se comporta como su representación, más convincente.

En ese punto, la cuestión afecta a nuestra comprensión de lo que es real, natural, posible y normal. Una imagen plausible puede hacer que algo parezca posible sin demostrar que lo es. La repetición puede hacer que algo parezca habitual sin establecer con qué frecuencia ocurre. Un relato seguro de sí mismo puede sonar como un testimonio sin que haya un testigo detrás. Estas distinciones importan porque tomamos decisiones reales con las expectativas que extraemos de lo que encontramos.

¿Cómo pueden entonces esas expectativas permanecer abiertas a la corrección? La experiencia directa ayuda, pero también es limitada y falible. Necesitamos a otras personas, información rigurosa, investigaciones independientes, métodos científicos y relaciones cuya fiabilidad pueda evaluarse a lo largo del tiempo. La pregunta útil es qué respalda una afirmación concreta: una experiencia cuya procedencia pueda identificarse, una prueba reproducible, observaciones independientes o una presentación cuya base sigue sin estar clara. Un rostro realista no puede responder a esa pregunta por nosotros.

Una indicación explícita puede ayudar a establecer qué tipo de figura tenemos delante. También deja cuestiones pendientes. Saber que un presentador es sintético nos dice algo sobre su construcción; no nos dice si sus afirmaciones son exactas o si su experiencia aparente tiene una fuente real. Del mismo modo, saber que una imagen es ficticia no revela necesariamente todas las expectativas que hemos aprendido al verla.

Tal vez la conciencia deba incluir este segundo nivel de atención. Podemos preguntar si una escena ocurrió y también qué nos enseñó a esperar. ¿Qué tipo de cuerpo nos parece ahora corriente? ¿A qué velocidad nos parece razonable alcanzar el éxito? ¿Qué comportamiento esperamos de los animales, de los amigos o de las parejas? ¿Qué frustraciones hemos empezado a interpretar como fracasos porque los ejemplos con los que las juzgamos no contenían límites comparables?

Estas preguntas también se aplican a este ensayo. Los resultados de una investigación, una observación personal y una proyección de futuro aportan formas distintas de respaldo. La ayuda de la IA para desarrollar y expresar un argumento no puede aportar una experiencia de primera mano que el autor no ha vivido ni convertir una interpretación plausible en un resultado establecido. Un texto que pide a los lectores que examinen las apariencias les debe claridad sobre los fundamentos de sus propias afirmaciones.

Comenzamos con un presentador sintético que recomienda un producto. Vista desde esta perspectiva más amplia, esa escena también podría contribuir a un modelo de los cuerpos, la experiencia, la credibilidad y la vida cotidiana. Su propósito comercial inmediato es solo una parte de lo que un espectador puede aprender de ella.

Cuando aprendemos sobre el mundo a través de vidas, experiencias y acontecimientos sintéticos presentados como si hubieran ocurrido, ¿qué llegaremos a aceptar como real, natural, posible y normal? Y, cuando nos alejemos de la pantalla, ¿según cuáles de esos criterios seguiremos viviendo?

**Fuentes**

- JD Corporate Blog. Anuncio sobre el representante digital generado por IA utilizado en el debut de Richard Liu en una transmisión en directo, 22 de abril de 2024. - Marian Friestad y Peter Wright. *The Persuasion Knowledge Model: How People Cope with Persuasion Attempts.* Journal of Consumer Research, 1994. - Albert Bandura. *Social Cognitive Theory of Mass Communication.* Media Psychology, 2001. - Sophie J. Nightingale y Hany Farid. *AI-synthesized faces are indistinguishable from real faces and more trustworthy.* Proceedings of the National Academy of Sciences, 2022. - Lev Muchnik, Sinan Aral y Sean J. Taylor. *Social Influence Bias: A Randomized Experiment.* Science, 2013. - Cristian Vaccari y Andrew Chadwick. *Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News.* Social Media + Society, 2020. - Bobby Chesney y Danielle Citron. *Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security.* California Law Review, 2019. - Jean Baudrillard. *Simulacra and Simulation.* Edición en inglés, 1994.