KI-generierte Moderatoren werden bereits eingesetzt, um in Livestreams Produkte zu verkaufen. Ein überzeugendes Gesicht, eine flüssige Stimme und vertraute Gesten erzeugen den Eindruck, dass ein Mensch zu einem Publikum spricht. Die kommerziellen Möglichkeiten liegen auf der Hand. Um jedoch das tiefer liegende Problem zu verstehen, betrachten wir einen einfachen Fall: einen synthetischen Moderator, der eine Hautcreme empfiehlt.

Der Moderator kann Inhaltsstoffe beschreiben, die Anwendung erklären oder die Ergebnisse eines tatsächlich durchgeführten Tests vermitteln. Doch was geschieht, wenn eine erfundene Person sagt: „Ich habe das benutzt, und meine Haut hat sich besser angefühlt“? Diese Figur hat keine Haut, die gereizt war, keine Beschwerden, die verschwunden sind, und keinen Morgen erlebt, an dem sie in den Spiegel blickte und eine Veränderung bemerkte. Uns wird eine Erfahrung mit der Anwendung eines Produkts vermittelt, die nie stattgefunden hat.

Ein synthetischer Moderator kann die Erfahrung eines wirklichen Menschen getreu wiedergeben, wenn klar ist, von wem sie stammt. Auch eine fiktive Figur kann in einer Werbung auftreten, deren fiktiver Charakter erkennbar ist. Das Problem entsteht, wenn ein künstlich erzeugter Zeuge als jemand dargestellt wird, der aus persönlicher Erfahrung spricht. Selbst wenn das Produkt real ist, kann die scheinbare Beziehung zwischen ihm und der Person, die es empfiehlt, erfunden sein.

Werbung hat schon immer mit Inszenierungen, idealisierten Körpern, gestellten Situationen und Versprechen gearbeitet. Eine Überzeugungsabsicht zu erkennen, hilft uns, das Gesehene einzuordnen; in der Forschung wird dieses Verständnis als Persuasionswissen bezeichnet. Diese Erkenntnis macht uns nicht immun gegen Einfluss, gibt uns aber einen Deutungsrahmen. Eine kommerzielle Figur, die in gewöhnliche Gespräche, alltägliche Abläufe und scheinbar spontane Empfehlungen eingebettet ist, kann es erschweren, diesen Rahmen aufrechtzuerhalten. Die Verkaufsbotschaft erreicht uns durch die vertrauten Gesten des täglichen Lebens.

Die Folgen könnten jedoch weit über den Kauf der falschen Creme hinausgehen. Aus einer Folge von Beispielen lernen wir, wie Körper aussehen, wie Beziehungen funktionieren, wie schnell sich Erfolg einstellt, wie sich die Natur verhält und was andere Menschen angeblich wollen. Diese Beispiele können zu den Maßstäben werden, die wir in die Welt mitnehmen. Eine erfundene Erfahrung kann einen realen Kauf beeinflussen; eine Anhäufung erfundener Erfahrungen könnte beeinflussen, welche Welt wir zu erwarten lernen.

Mein zwanzigjähriger Sohn, der in der digitalen Welt aufgewachsen ist, sagt mir oft, dass er allem, was er online sieht, mit Skepsis begegnet. Ich nehme das ernst. Es ist eine persönliche Beobachtung, und sie wirft eine Frage auf, die über unsere Gespräche hinausreicht: Was geschieht, wenn eine online erlernte Gewohnheit des Misstrauens jemanden in den Alltag begleitet? Und noch bevor ein Mensch entscheidet, ob etwas vertrauenswürdig ist: Was haben ihm dessen Bilder bereits darüber beigebracht, wie die Welt funktioniert?

Vieles von dem, was wir wissen, erfahren wir durch andere Menschen, Bücher, Bilder und Bildschirme. Wir können nicht jeden Ort, jedes Ereignis und jeden wissenschaftlichen Vorgang, den wir verstehen müssen, persönlich erleben. Digitale Vermittlung gehört daher zu der Art, wie wir der Wirklichkeit begegnen. Die Schwierigkeit wächst, wenn scheinbar sachliche Beispiele überzeugende Darstellungen von Ereignissen, Leben oder Erfahrungen bieten, die nie stattgefunden haben, und zugleich verbergen, dass die Erfahrung fehlt, von der sie offenbar berichten.

Albert Banduras Erklärung des Lernens durch Medien hilft, die Bedeutung dieser Unterscheidung zu verstehen. Durch die Beobachtung von Vorbildern können Menschen Denk- und Handlungsweisen erwerben, ohne dieselben Erfahrungen selbst zu machen. Sie können aus Beispielen auch allgemeine Regeln ableiten und diese in anderen Situationen anwenden. Dieser Prozess (Beobachtungslernen und Modelllernen) umfasst mehr als das Nachahmen einer bestimmten Geste. Was wir beobachten, kann zu den Maßstäben beitragen, durch die wir spätere Erfahrungen deuten.

Das macht Zuschauer weder passiv noch ihre Reaktionen unausweichlich. Menschen hinterfragen, vergleichen, denken nach und korrigieren ihre Vorstellungen. Dennoch sind das Wissen, dass ein Bild künstlich ist, und das Erkennen seines Einflusses auf unsere Erwartungen zwei unterschiedliche Leistungen. Jemand kann vollkommen verstehen, dass eine Figur nur auf einem Bildschirm existiert, und trotzdem ihr Aussehen, ihre Verfügbarkeit oder ihren scheinbaren Erfolg als Bezugspunkt verwenden, wenn er einen gewöhnlichen Tag beurteilt.

Überlegen wir, was solche Bezugspunkte enthalten könnten. Einen Körper ohne Müdigkeit, Alterung oder einen ungünstigen Blickwinkel. Ein erfolgreiches Leben, aus dem Jahre der Anstrengung, Unsicherheit und gescheiterten Versuche verschwunden sind. Ein Gegenüber, das immer geduldig, aufmerksam und interessiert ist. Wiederholte Begegnungen mit solchen Beispielen könnten es schwerer machen, die gewöhnlichen Grenzen eines körperlichen Lebens zu akzeptieren. Was geschieht mit unserer Vorstellung von einem angemessenen Leben, wenn seine sichtbarsten Vorbilder keines führen müssen?

Dieselbe Frage reicht bis in die Natur. Stellen wir uns synthetische Videos vor, in denen Wildtiere sich immer wieder wie liebevolle menschliche Begleiter verhalten, Landschaften durchgehend spektakulär erscheinen oder Lebensprozesse ohne ihre tatsächlichen Bedingungen und Zeiträume ablaufen. Wenn Zuschauer diese Szenen als Aufzeichnungen wirklicher Ereignisse betrachten, was könnten sie daraus über Tiere, Lebensräume oder Wachstum lernen? Zu einem echten Wald gehören Warten, Unbehagen, Verfall und lange Zeiträume, in denen für eine Kamera nichts Bemerkenswertes geschieht. Wie könnte er auf jemanden wirken, dessen Erwartungen durch ein ununterbrochenes Spektakel geformt wurden?

Fiktion und Vorstellungskraft können uns viel vermitteln. Eine Geschichte kann Mitgefühl vertiefen, eine Animation einen wissenschaftlichen Vorgang erklären und eine simulierte Umgebung dabei helfen, ein reales System zu verstehen. Die Frage betrifft die Beziehung zwischen der Darstellung und dem, was sie darzustellen beansprucht. Werden wir in eine Geschichte eingeladen, wird uns ein Modell mit offengelegten Grenzen gezeigt, oder sollen wir glauben, dass ein Ereignis stattgefunden hat? Daraus entstehen unterschiedliche Beziehungen zum Zuschauer, selbst wenn die Bilder gleichermaßen überzeugend wirken.

Das hilft auch zu erklären, weshalb jemand einem virtuellen Influencer folgen könnte. Menschen können Anziehung, Neugier, Geborgenheit oder Identifikation empfinden, obwohl sie wissen, dass eine Figur künstlich ist. Ein schönes Bild kann gefallen. Eine vertraute Stimme kann Teil einer Gewohnheit werden. Eine einseitige Bindung an eine wiederkehrende Medienfigur (parasoziale Beziehung) kann mit wirklichen Gefühlen verbunden sein. Das Bewusstsein ihrer Künstlichkeit nimmt einer Begegnung nicht automatisch ihren emotionalen Wert.

Wir können einer nichtmenschlichen Figur auch menschliche Eigenschaften zuschreiben, eine Tendenz, die als Anthropomorphismus bezeichnet wird. Ein reagierender Gesichtsausdruck oder eine scheinbar rücksichtsvolle Antwort kann uns dazu einladen, hinter der Darstellung eine Persönlichkeit zu erleben. In einer 2022 veröffentlichten kontrollierten Studie stellten Sophie Nightingale und Hany Farid fest, dass die Teilnehmenden Schwierigkeiten hatten, bestimmte synthetisch erzeugte Gesichter von echten zu unterscheiden, und die synthetischen Gesichter im Durchschnitt als vertrauenswürdiger bewerteten. Diese Ergebnisse beziehen sich auf bestimmte statische Bilder und Versuchsbedingungen. Dennoch veranschaulichen sie, wie ein Erscheinungsbild zu einer Einschätzung einladen kann, die nicht durch tatsächliches Verhalten verdient wurde.

Die Gefühle eines Zuschauers können real sein, während die Person, an die sie sich scheinbar richten, fiktiv ist. Gefallen allein belegt nicht, dass eine Empfehlung auf Erfahrung beruht, eine Antwort Fürsorge ausdrückt oder die Figur Verpflichtungen gegenüber ihrem Publikum hat. Jemand kann eine virtuelle Figur zur Unterhaltung genießen und trotzdem fragen, wie ihre kommerziellen Aussagen zustande gekommen sind. Die Schwierigkeit beginnt, wenn die angenehme Vertrautheit unbemerkt zu einem Grund wird, einer Aussage zu vertrauen.

Perfektion könnte irgendwann weniger wichtig werden als glaubwürdige Unvollkommenheit. Eine kommerzielle Figur könnte mit unbeholfenen Momenten, kleinen Fehlern, scheinbarer Verletzlichkeit und Geschichten über Enttäuschungen ausgestattet werden. Solche Einzelheiten können sie nahbarer wirken lassen. Ein zukünftiges System könnte sein Verhalten daran anpassen, was einzelne Zuschauer beruhigend oder anziehend finden. Das ist eine Zukunftsprojektion und keine Beschreibung jeder heutigen Anwendung. Sie verweist jedoch auf eine ernst zu nehmende Möglichkeit: Die Zeichen, an denen wir Authentizität erkennen, können selbst zum Material ihrer künstlichen Herstellung werden.

Derselbe Mechanismus zeigt sich auch ohne ein Gesicht. Eine große Anzahl von Telefonen oder Konten kann Besuche erzeugen, die organisch erscheinen. Bewertungen können Käufe beschreiben, die nie stattgefunden haben. Kommentare können den Eindruck von Begeisterung unter unabhängigen Menschen schaffen. Follower und Likes können ein Publikum nahelegen, das nicht auf die Weise zusammengekommen ist, die die Zahlen suggerieren. Hier wird aus der fehlenden Erfahrung eine fehlende Menschenmenge: sichtbare Spuren kollektiver Aktivität ohne die entsprechende unabhängige Beteiligung.

Das ist bedeutsam, weil die scheinbaren Entscheidungen anderer Menschen unsere eigenen mitlenken. Wenn Unsicherheit eine direkte Beurteilung erschwert, suchen wir häufig nach Hinweisen darauf, was andere gutheißen, ein Prozess, der üblicherweise als soziale Bewährtheit bezeichnet wird. In einem 2013 veröffentlichten randomisierten Experiment stellten Lev Muchnik, Sinan Aral und Sean Taylor fest, dass manipulierte frühere Bewertungen spätere Abstimmungen auf einer Social-News-Plattform beeinflussten. Diese Studie handelte nicht von KI-Influencern. Sie zeigte jedoch, dass ein sichtbares Urteil dazu beitragen kann, spätere Urteile hervorzubringen, statt sie lediglich abzubilden.

Ein künstlich erzeugtes Signal kann daher mehr bewirken, als eine Seite auszuschmücken. Es kann prägen, was spätere Besucher als glaubwürdig, begehrenswert oder allgemein anerkannt wahrnehmen. Wenn Menschen darauf reagieren, kann ein Teil der nachfolgenden Aktivität echt werden, obwohl der anfängliche Eindruck künstlich war. Das erschwert die Vorstellung, Popularität sei ein neutrales Abbild unabhängiger Vorlieben. Unter bestimmten Bedingungen wirkt scheinbare Popularität daran mit, die Vorliebe hervorzubringen, die sie scheinbar nur wiedergibt.

Für jemanden, der durch solche Umgebungen etwas über die Welt lernt, könnte die vermittelte Lektion über ein einzelnes Produkt hinausreichen. Wiederholte scheinbare Übereinstimmung kann nahelegen, was als Erfolg, Attraktivität, Intelligenz oder normales Verhalten gilt. Besonders ernst wird das Problem, wenn viele angeblich unabhängige Stimmen von derselben Quelle erzeugt oder koordiniert werden. Ein Zuschauer scheint eine soziale Welt zu hören, begegnet aber wiederholten Varianten eines wesentlich engeren Spektrums von Interessen.

Eine mögliche Reaktion ist zunehmende Skepsis. Eine andere ist Erschöpfung: Wenn jedes Bild, jede Stimme und jede Empfehlung eine Überprüfung verlangt, könnte ein Mensch irgendwann aufhören, sorgfältig zu urteilen. Er könnte unbekannte Belege verwerfen, nur noch akzeptieren, was aus einer bevorzugten Gruppe stammt, oder dem vertrauen, was sich emotional am plausibelsten anfühlt. Das sind mögliche Reaktionen, keine einheitliche Zukunft, die alle erwartet. Dennoch könnte eine weitverbreitete künstliche Herstellung den Aufwand des Unterscheidens gerade dann vergrößern, wenn Menschen weniger Geduld dafür haben.

Die Forschung zu synthetischen politischen Videos liefert einen begrenzten, aber relevanten Warnhinweis. In einer Studie von 2020 stellten Cristian Vaccari und Andrew Chadwick fest, dass ein Deepfake eher Unsicherheit als eine eindeutige Täuschung hervorrufen konnte und diese Unsicherheit mit geringerem Vertrauen in Nachrichten auf sozialen Medien zusammenhing. Das belegt nicht, dass sich das Misstrauen anschließend auf Freundschaften, das Familienleben oder Begegnungen mit der Natur ausbreitet. Eine solche weiterreichende Bewegung bleibt eine Frage, für die eigene Belege erforderlich sind. Die Studie zeigt jedoch, weshalb es einen Teil der Wirkung übersehen kann, lediglich zu zählen, wie viele Menschen einer Fälschung geglaubt haben.

Auch für echte Belege ergibt sich eine Folge. Bobby Chesney und Danielle Citron beschreiben die „Lügnerdividende“: Das Wissen, dass Aufnahmen gefälscht werden können, kann es erleichtern, authentisches Material als Fälschung abzutun. Ein reales Ereignis muss zusätzliche Anforderungen an seinen Nachweis erfüllen, weil überzeugende falsche Ereignisse möglich sind. Unter solchen Bedingungen können bessere Fälschungen die Beweiskraft von Material schwächen, an dem nichts künstlich ist.

Könnte eine ähnliche Gewohnheit auch persönliche Begegnungen erreichen? Könnte jemand schneller dazu neigen, Freundlichkeit als Strategie, Verletzlichkeit als Inszenierung oder eine persönliche Aussage als vorbereitetes Drehbuch zu deuten? Wir sollten diese Entwicklung nicht als erwiesene Folge von KI darstellen. Aber wir sollten den Bildschirm auch nicht wie einen abgeschlossenen Raum behandeln, dessen Gewohnheiten enden, sobald er dunkel wird. Menschen tragen erlernte Erwartungen in Begegnungen hinein. Diese Erwartungen können beeinflussen, was sie wahrnehmen, wie sie es deuten und wie sie darauf reagieren.

Das Risiko könnte sowohl fehlgeleiteten Glauben als auch fehlgeleiteten Unglauben umfassen. Ein Mensch kann unrealistische Maßstäbe aus künstlichen Beispielen übernehmen und zugleich authentischen Erfahrungen misstrauen, die ihnen nicht entsprechen. Er könnte mühelosen Erfolg erwarten und dennoch an einem ehrlichen Bericht über Schwierigkeiten zweifeln. Er könnte ständige Verfügbarkeit erwarten und eine gewöhnliche Grenze dennoch als Gleichgültigkeit deuten. Diese Kombination könnte die Wirklichkeit vor zwei gleichzeitige Anforderungen stellen: dem überzeugenden Bild ähneln und beweisen, dass sie es verdient, geglaubt zu werden.

Es könnte auch einen Rückkopplungsprozess geben. Menschen, die sehen, dass bestimmte Inszenierungen online belohnt werden, könnten sie im Alltag reproduzieren. Diese wirklichen Inszenierungen können anschließend aufgezeichnet und als weitere Beispiele dafür verbreitet werden, wie Menschen sich natürlicherweise verhalten. Ein zunächst konstruiertes Muster erhält eine gelebte Ausdrucksform, die das Muster scheinbar bestätigt. Das ist eine Deutung eines möglichen Mechanismus, kein Beweis dafür, dass sich die Gesellschaft einheitlich in diese Richtung bewegt. Dennoch fordert sie uns auf, darüber nachzudenken, wie Darstellungen und Verhalten einander prägen können.

Jean Baudrillards Begriff der Hyperrealität bietet eine philosophische Perspektive auf dieses Problem: Darstellungen können zu Bezugspunkten werden, durch die die von ihnen dargestellte Welt beurteilt wird. Auf diesen Fall angewandt lautet die Frage, ob ein synthetisches Bild des Lebens beginnt, die Bedingungen dafür festzulegen, wann das tatsächliche Leben als angemessen erscheint. Eine Beziehung, ein Körper, ein Tier oder eine Landschaft könnte dann enttäuschend wirken, weil sie sich nicht wie ihre überzeugendere Darstellung verhält.

An diesem Punkt betrifft das Problem unser Verständnis dessen, was real, natürlich, möglich und normal ist. Ein plausibles Bild kann etwas möglich erscheinen lassen, ohne zu zeigen, dass es möglich ist. Wiederholung kann etwas verbreitet erscheinen lassen, ohne zu belegen, wie häufig es vorkommt. Eine selbstsichere Schilderung kann wie ein Erfahrungsbericht klingen, ohne dass ein Zeuge dahintersteht. Diese Unterscheidungen sind wichtig, weil wir mit den Erwartungen, die wir aus unseren Begegnungen ableiten, reale Entscheidungen treffen.

Wie können diese Erwartungen also offen für Korrekturen bleiben? Direkte Erfahrung hilft, ist aber ebenfalls begrenzt und fehlbar. Wir brauchen andere Menschen, sorgfältige Berichterstattung, unabhängige Untersuchungen, wissenschaftliche Methoden und Beziehungen, deren Verlässlichkeit sich über die Zeit beurteilen lässt. Die hilfreiche Frage lautet, worauf eine bestimmte Aussage beruht: auf einer Erfahrung, deren Ursprung sich feststellen lässt, einem reproduzierbaren Test, unabhängigen Beobachtungen oder einer Darstellung, deren zugrunde liegende Basis unklar bleibt. Ein realistisches Gesicht kann diese Frage nicht für uns beantworten.

Eine klare Kennzeichnung kann helfen festzustellen, welcher Art von Figur wir begegnen. Sie lässt jedoch weitere Arbeit offen. Zu wissen, dass ein Moderator synthetisch ist, sagt uns etwas über seine Herstellung; es sagt uns nicht, ob seine Aussagen zutreffen oder seine scheinbare Erfahrung eine reale Quelle hat. Ebenso offenbart das Wissen, dass ein Bild fiktiv ist, nicht zwangsläufig jede Erwartung, die wir durch das Betrachten gelernt haben.

Vielleicht muss Bewusstsein auch diese zweite Ebene der Aufmerksamkeit einschließen. Wir können fragen, ob eine Szene stattgefunden hat, und ebenso fragen, was sie uns zu erwarten gelehrt hat. Welche Art von Körper erscheint uns inzwischen gewöhnlich? Welches Tempo des Erfolgs wirkt angemessen? Welches Verhalten erwarten wir von Tieren, Freunden oder Partnern? Welche Schwierigkeiten haben wir begonnen als Versagen zu deuten, weil die Beispiele, an denen wir sie messen, keine vergleichbaren Grenzen enthielten?

Diese Fragen gelten auch für diesen Essay. Forschungsergebnisse, eine persönliche Beobachtung und eine Zukunftsprojektion bieten unterschiedliche Arten von Begründungen. KI-Unterstützung bei der Entwicklung und Formulierung eines Arguments kann keine Erfahrung aus erster Hand liefern, die der Autor nicht gemacht hat, und eine plausible Deutung nicht in ein gesichertes Ergebnis verwandeln. Ein Text, der Leser dazu auffordert, Erscheinungsbilder zu prüfen, schuldet ihnen Klarheit über die Grundlagen seiner eigenen Aussagen.

Wir begannen mit einem synthetischen Moderator, der ein Produkt empfiehlt. Aus dieser weiter gefassten Perspektive könnte die Szene auch zu einem Modell von Körpern, Erfahrung, Glaubwürdigkeit und gewöhnlichem Leben beitragen. Ihr unmittelbarer kommerzieller Zweck ist nur ein Teil dessen, was ein Zuschauer aus ihr lernen kann.

Wenn wir durch synthetische Leben, Erfahrungen und Ereignisse, die dargestellt werden, als hätten sie stattgefunden, etwas über die Welt lernen: Was werden wir dann als real, natürlich, möglich und normal ansehen? Und nach welchen dieser Maßstäbe werden wir weiterleben, wenn wir uns vom Bildschirm abwenden?

**Quellen**

- JD Corporate Blog. Ankündigung zum digitalen KI-Repräsentanten, der bei Richard Lius Livestream-Debüt eingesetzt wurde, 22. April 2024. - Marian Friestad und Peter Wright. *The Persuasion Knowledge Model: How People Cope with Persuasion Attempts.* Journal of Consumer Research, 1994. - Albert Bandura. *Social Cognitive Theory of Mass Communication.* Media Psychology, 2001. - Sophie J. Nightingale und Hany Farid. *AI-synthesized faces are indistinguishable from real faces and more trustworthy.* Proceedings of the National Academy of Sciences, 2022. - Lev Muchnik, Sinan Aral und Sean J. Taylor. *Social Influence Bias: A Randomized Experiment.* Science, 2013. - Cristian Vaccari und Andrew Chadwick. *Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News.* Social Media + Society, 2020. - Bobby Chesney und Danielle Citron. *Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security.* California Law Review, 2019. - Jean Baudrillard. *Simulacra and Simulation.* Englische Ausgabe, 1994.