Yapay zekâyla üretilmiş sunucular, canlı yayınlarda ürün satmak için zaten kullanılıyor. İnandırıcı bir yüz, akıcı bir ses ve tanıdık jestler, izleyicilere seslenen bir insanın görünümünü yeniden oluşturuyor. Bunun ticari açıdan sunduğu olanakları görmek kolay. Ancak daha derindeki meseleyi anlamak için basit bir örneği ele alalım: bir cilt kremi öneren sentetik bir sunucu.

Sunucu, ürünün içeriğini anlatabilir, kullanım talimatlarını açıklayabilir ya da gerçekten yapılmış bir testin sonuçlarını aktarabilir. Peki, uydurulmuş bir kişi “Bunu kullandım ve cildim daha iyi hissetti” derse ne olur? Bu figürün tahriş olmuş bir cildi yoktur. Geçip giden bir rahatsızlık yaşamamıştır. Bir sabah aynaya bakıp değişimi fark etmemiştir. Bize hiç yaşanmamış bir kullanım deneyimi sunuluyor.

Sentetik bir sunucu, kaynağı açık olduğunda gerçek bir insanın deneyimini sadakatle aktarabilir. Kurmaca olduğu anlaşılan bir reklamda hayalî bir karakter de yer alabilir. Sorun, üretilmiş bir tanığın kişisel deneyiminden konuşan biri gibi sunulmasıyla ortaya çıkar. Ürünün kendisi gerçek olsa bile, ürünle onu öneren kişi arasında varmış gibi görünen ilişki uydurulmuş olabilir.

Reklamcılık her zaman performanslar, idealize edilmiş bedenler, sahnelenmiş durumlar ve vaatler kullandı. Bir ikna niyetini fark etmek, gördüğümüzü yorumlamamıza yardımcı olur; araştırmacılar bu anlayışa bir ad verir (ikna bilgisi). Bu farkındalık bizi etkilenmeye karşı bağışık hâle getirmez, ama bir çerçeve sağlar. Sıradan konuşmaların, günlük rutinlerin ve kendiliğinden yapılmış gibi görünen önerilerin içine yerleştirilen ticari bir karakter, bu çerçeveyi korumayı zorlaştırabilir. Satış mesajı, gündelik hayatın tanıdık jestleri üzerinden gelir.

Ancak sonuçlar, yanlış kremi satın almanın çok ötesine uzanabilir. Önümüze akan örneklerden bedenlerin nasıl göründüğünü, ilişkilerin nasıl işlediğini, başarının ne hızla geldiğini, doğanın nasıl davrandığını ve başka insanların görünürde ne istediğini öğreniyoruz. Bu örnekler, dünyaya taşıdığımız ölçülere dönüşebilir. Uydurulmuş bir deneyim, gerçek bir satın almayı etkileyebilir; uydurulmuş deneyimlerin birikimi ise dünyadan ne beklemeyi öğrendiğimizi etkileyebilir.

Dijital dünyanın içinde büyüyen yirmi yaşındaki oğlum, internette gördüğü her şeye şüpheyle yaklaştığını sık sık söylüyor. Bunu ciddiye alıyorum. Bu kişisel bir gözlem ve konuşmalarımızın ötesine uzanan bir soru doğuruyor: İnternette öğrenilen kuşkuyla yaklaşma alışkanlığı, bir insana gündelik hayatta da eşlik ettiğinde ne olur? Ve bir insan, bir şeyin güvenilir olup olmadığına daha karar vermeden önce, bu görüntüler ona dünyanın nasıl işlediği hakkında neler öğretmiştir?

Bildiklerimizin büyük bir bölümü bize başka insanlar, kitaplar, görüntüler ve ekranlar aracılığıyla ulaşır. Anlamamız gereken her yeri, her olayı ya da her bilimsel süreci kişisel olarak deneyimleyemeyiz. Dolayısıyla dijital aracılık, gerçeklikle karşılaşma biçimimizin bir parçasıdır. Gerçeklere dayanıyormuş gibi görünen örnekler, hiç gerçekleşmemiş olayların, hayatların ya da deneyimlerin inandırıcı temsillerini sunduğunda ve anlattıkları izlenimini verdikleri deneyimin yokluğunu gizlediğinde, güçlük büyür.

Albert Bandura’nın medya yoluyla öğrenmeye ilişkin açıklaması, bu ayrımın önemini anlamamıza yardımcı olur. İnsanlar, modelleri gözlemleyerek aynı deneyimleri kendileri yaşamadan düşünme ve davranma biçimleri edinebilir. Örneklerden genel kurallar çıkarabilir ve bu kuralları başka durumlarda uygulayabilirler. Bu süreç (gözlem yoluyla öğrenme ve model alma), belirli bir hareketi taklit etmekten fazlasını içerir. Gözlemlediklerimiz, sonraki deneyimlerimizi yorumladığımız ölçülerin oluşmasına katkıda bulunabilir.

Bu, izleyicileri pasif ya da tepkilerini kaçınılmaz kılmaz. İnsanlar sorgular, karşılaştırır, düşünür ve görüşlerini gözden geçirir. Yine de bir görüntünün yapay olduğunu bilmek ile beklentilerimizi nasıl şekillendirdiğini fark etmek farklı kazanımlardır. Bir insan, bir figürün yalnızca ekranda var olduğunu gayet iyi anlayabilir; buna rağmen sıradan bir günü değerlendirirken onun görünümünü, ulaşılabilirliğini ya da görünürdeki başarısını referans alabilir.

Bu referansların neler içerebileceğini düşünelim. Yorgunluğu, yaşlanması ya da kötü göründüğü bir açısı olmayan bir beden. Yıllarca süren çabanın, belirsizliğin ve başarısız denemelerin çıkarıldığı başarılı bir hayat. Her zaman sabırlı, ilgili ve dikkatli bir eşlikçi. Bu tür örneklerle tekrar tekrar karşılaşmak, bedensel bir hayatın olağan sınırlarını kabul etmeyi zorlaştırabilir. Bir hayat yaşaması gerekmeyen en görünür modeller, makul bir hayatın nasıl olacağına ilişkin anlayışımızı nasıl etkiler?

Aynı soru doğaya da uzanır. Vahşi hayvanların tekrar tekrar sevecen insan dostları gibi davrandığı, manzaraların sürekli olağanüstü göründüğü ya da canlı süreçlerin gerçek koşulları ve zaman ölçekleri olmadan gerçekleştiği sentetik videolar düşünelim. İzleyiciler bu sahneleri gerçekten yaşananların kayıtları olarak kabul ederse hayvanlar, çevre ya da büyüme hakkında neler öğrenebilir? Gerçek bir ormanda beklemek, rahatsızlık, çürüme ve kamera açısından dikkat çekici hiçbir şeyin olmadığı uzun zaman aralıkları da vardır. Beklentileri kesintisiz bir görsel gösteriyle şekillenmiş bir insana böyle bir orman nasıl hissettirebilir?

Kurmaca ve hayal gücü bize çok şey öğretebilir. Bir hikâye şefkati derinleştirebilir, bir animasyon bilimsel bir süreci açıklayabilir ve simüle edilmiş bir ortam gerçek bir sistemi anlamaya yardımcı olabilir. Soru, temsil ile temsil ettiğini iddia ettiği şey arasındaki ilişkiyle ilgilidir. Bir hikâyenin içine mi davet ediliyoruz, sınırları açıklanmış bir model mi görüyoruz, yoksa bir olayın gerçekleştiğine inanmamız mı isteniyor? Görüntüler aynı derecede inandırıcı görünse bile, bunlar izleyiciyle kurulan farklı ilişkilerdir.

Bu, bir insanın neden sanal bir influencerı takip edebileceğini anlamaya da yardımcı olur. İnsanlar, bir figürün yapay olduğunu bildikleri hâlde çekim, merak, rahatlık ya da özdeşleşme hissedebilir. Güzel bir görüntü hoş gelebilir. Tanıdık bir ses, bir rutinin parçası olabilir. Tekrar tekrar karşılaşılan bir medya figürüyle kurulan tek taraflı bağ (parasosyal ilişki), gerçek duygular taşıyabilir. Yapaylığın farkında olmak, karşılaşmanın duygusal değerini otomatik olarak ortadan kaldırmaz.

İnsan olmayan bir figüre insan özellikleri de atfedebiliriz (antropomorfizm). Karşılık veren bir yüz ifadesi ya da düşünceli görünen bir yanıt, sunumun arkasında bir kişilik hissetmemize yol açabilir. Sophie Nightingale ve Hany Farid, 2022’de yayımlanan kontrollü bir çalışmada, katılımcıların bazı sentetik yüzleri gerçek yüzlerden ayırmakta zorlandığını ve sentetik yüzleri ortalamada daha güvenilir değerlendirdiğini buldu. Bu bulgular, belirli durağan görüntüler ve deney koşullarıyla ilgilidir. Yine de bir görünümün, davranış yoluyla hak edilmemiş bir değerlendirmeye nasıl zemin hazırlayabileceğini gösterir.

Bir izleyicinin duyguları gerçek olabilirken, bu duyguları alıyor gibi görünen kişi kurmaca olabilir. Hoşlanmak tek başına, bir önerinin deneyime dayandığını, bir yanıtın önemsemeyi yansıttığını ya da karakterin izleyicilerine karşı yükümlülükleri olduğunu ortaya koymaz. Bir insan, sanal bir figürü eğlence olarak sevebilir ve yine de onun ticari iddialarının nasıl üretildiğini sorabilir. Güçlük, tanıdıklığın verdiği hoşluğun sessizce bir tanıklığa güvenme nedenine dönüşmesiyle başlar.

Kusursuzluk, zamanla inandırıcı kusurlardan daha az önemli hâle gelebilir. Ticari bir karaktere beceriksiz anlar, küçük hatalar, görünürdeki kırılganlık ve hayal kırıklığı hikâyeleri verilebilir. Bu ayrıntılar onu daha yakın hissettirebilir. Gelecekteki bir sistem, tavrını belirli izleyicilerin güven verici ya da çekici bulduğu şeylere göre ayarlayabilir. Bu, bugünkü her uygulamanın betimlemesi değil, geleceğe dair bir öngörüdür. Ama ciddi bir olasılığa işaret eder: Samimiyeti tanımak için kullandığımız işaretler, kendileri de üretimin malzemesine dönüşebilir.

Aynı mekanizma bir yüz olmadan da ortaya çıkar. Çok sayıda telefon ya da hesap, organikmiş gibi görünen ziyaretler üretebilir. Değerlendirmeler, hiç yapılmamış satın almaları anlatabilir. Yorumlar, bağımsız insanlar arasında bir coşku varmış izlenimi yaratabilir. Takipçiler ve beğeniler, sayıların ima ettiği biçimde bir araya gelmemiş bir kitleyi varmış gibi gösterebilir. Burada eksik olan deneyim, eksik olan bir kalabalığa dönüşür: Karşılığında bağımsız katılım bulunmayan, kolektif faaliyetin görünür izleri.

Bu önemlidir, çünkü başka insanların görünürdeki tercihleri kendi tercihlerimizi yönlendirmeye yardımcı olur. Belirsizlik doğrudan değerlendirmeyi zorlaştırdığında, sıklıkla başkalarının neyi onayladığına dair işaretler ararız (sosyal kanıt). Lev Muchnik, Sinan Aral ve Sean Taylor, 2013’te yayımlanan rastgele atamalı bir deneyde, önceki değerlendirmelerin değiştirilmesinin sosyal bir haber platformundaki sonraki oylamaları etkilediğini buldu. Bu çalışma yapay zekâ influencerları hakkında değildi. Ancak gösterilen bir değerlendirmenin, sonraki değerlendirmeleri yalnızca kaydetmek yerine onların oluşmasına katkıda bulunabileceğini ortaya koydu.

Dolayısıyla üretilmiş bir işaret, bir sayfayı süslemekten fazlasını yapabilir. Sonradan gelen ziyaretçilerin neyi güvenilir, arzu edilir ya da geniş ölçüde kabul edilmiş gördüğünü şekillendirebilir. İnsanlar buna karşılık verirse, ilk izlenim yapay olsa bile sonraki faaliyetin bir bölümü gerçek hâle gelebilir. Bu durum, popülerliğin bağımsız tercihlerin tarafsız bir yansıması olduğu fikrini karmaşıklaştırır. Belirli koşullarda görünürdeki popülerlik, yalnızca aktarıyor gibi göründüğü tercihin oluşmasına katılır.

Bu ortamlar üzerinden dünyayı öğrenen bir insan için alınan ders, tek bir ürünün ötesine uzanabilir. Tekrarlanan görünürdeki uzlaşma, neyin başarı, çekicilik, zekâ ya da normal davranış sayıldığını ima edebilir. Birbirinden bağımsız olduğu varsayılan birçok ses aynı kaynak tarafından üretildiğinde ya da koordine edildiğinde, mesele özellikle ciddi hâle gelir. İzleyici bir sosyal dünyayı dinliyormuş gibi görünürken, çok daha dar bir çıkarlar bütününün tekrarlanan versiyonlarıyla karşılaşıyor olabilir.

Olası tepkilerden biri, artan şüpheciliktir. Bir diğeri tükenmişliktir: Her görüntü, her ses ve her öneri araştırma gerektiriyorsa, insan sonunda dikkatli değerlendirmeye çalışmaktan vazgeçebilir. Tanımadığı kanıtları reddedebilir, yalnızca yakınlık duyduğu bir gruptan gelenleri kabul edebilir ya da duygusal olarak en makul hissettiren şeye güvenebilir. Bunlar olası tepkilerdir; herkesi bekleyen tek bir gelecek değildir. Yine de yaygın uydurma içerik üretimi, insanların daha az sabrı olduğu bir zamanda ayırt etme işini daha zahmetli hâle getirebilir.

Sentetik siyasi videolara ilişkin araştırmalar, sınırlı ama konuyla ilgili bir uyarı sunuyor. Cristian Vaccari ve Andrew Chadwick, 2020 tarihli bir çalışmada, bir deepfake videonun insanları açıkça yanıltmaktan daha kolay biçimde belirsizlik yaratabildiğini ve bu belirsizliğin sosyal medyadaki haberlere duyulan güvenin azalmasıyla bağlantılı olduğunu buldu. Bu, güvensizliğin daha sonra arkadaşlıklara, aile hayatına ya da doğayla karşılaşmalara yayıldığını göstermez. Bu daha geniş geçiş, kendi kanıtlarını gerektiren bir soru olarak kalır. Ancak çalışma, yalnızca kaç kişinin bir uydurmaya inandığını saymanın, etkinin bir bölümünü neden gözden kaçırabileceğini gösterir.

Gerçek kanıtlar açısından da bir sonuç vardır. Bobby Chesney ve Danielle Citron, “yalancının kazancı” olarak adlandırdıkları durumu anlatır: Kayıtların üretilebildiğini bilmek, gerçek bir materyalin sahte diye reddedilmesini kolaylaştırabilir. İnandırıcı sahte olaylar üretmek mümkün olduğu için, gerçek bir olayın kanıtlanması ek bir yükle karşılaşır. Bu koşullarda daha iyi üretilmiş sahtelikler, hiçbir yapaylık taşımayan kanıtların inandırıcılığını zayıflatabilir.

Benzer bir alışkanlık yüz yüze hayata da ulaşabilir mi? Bir insan, iyiliği daha çabuk strateji, kırılganlığı performans ya da bir tanıklığı hazırlanmış bir senaryo olarak yorumlamaya başlayabilir mi? Bu geçişi, yapay zekânın kanıtlanmış bir sonucu gibi sunmaktan kaçınmalıyız. Ama ekranı, karardığında içindeki alışkanlıkların da sona erdiği kapalı bir ortam gibi ele almaktan da kaçınmalıyız. İnsanlar, öğrendikleri beklentileri karşılaşmalarına taşır. Bu beklentiler neyi fark ettiklerini, onu nasıl yorumladıklarını ve nasıl karşılık verdiklerini etkileyebilir.

Risk, hem yanlış yere yönelen inancı hem de yanlış yere yönelen inançsızlığı içerebilir. Bir insan yapay örneklerden gerçekçi olmayan ölçüler edinirken, bu ölçülere uymayan gerçek deneyimlere şüpheyle yaklaşabilir. Çabasız başarı bekleyip, yaşanan zorluklara ilişkin dürüst bir anlatıdan kuşku duyabilir. Sürekli ulaşılabilirlik bekleyip, olağan bir sınırı ilgisizlik olarak yorumlayabilir. Bu birleşim, gerçekliği aynı anda iki taleple karşı karşıya bırakabilir: İnandırıcı görüntüye benzemek ve inanılmayı hak ettiğini kanıtlamak.

Bir geri besleme süreci de olabilir. İnternette belirli performansların ödüllendirildiğini gören insanlar, bunları gündelik hayatta yeniden üretebilir. Bu gerçek performanslar daha sonra kaydedilip, insanların doğal olarak nasıl davrandığına ilişkin yeni örnekler gibi dolaşıma sokulabilir. Başlangıçta kurgulanmış bir örüntü, yaşanmış bir ifadeye kavuşur ve bu ifade örüntüyü doğruluyormuş gibi görünür. Bu, olası bir mekanizmanın yorumudur; toplumun tek biçimli olarak bu yönde ilerlediğinin kanıtı değildir. Yine de temsillerin ve davranışların birbirini nasıl şekillendirebileceğini düşünmemizi ister.

Jean Baudrillard’ın hipergerçeklik fikri, bu soruna felsefi bir bakış sunar: Temsiller, temsil ettikleri dünyanın değerlendirildiği referanslara dönüşebilir. Buraya uygulandığında soru, hayatın sentetik bir görüntüsünün gerçek hayatı yeterli bulmanın koşullarını belirlemeye başlayıp başlamadığıdır. Bir ilişki, bir beden, bir hayvan ya da bir manzara, kendisinin daha inandırıcı temsili gibi davranmadığı için hayal kırıklığı yaratabilir.

Bu noktada mesele, neyi gerçek, doğal, mümkün ve normal kabul ettiğimize ilişkin anlayışımızla ilgilidir. İnandırıcı bir görüntü, bir şeyin gerçekten mümkün olduğunu ortaya koymadan onu mümkün gibi gösterebilir. Tekrar, bir şeyin ne sıklıkla gerçekleştiğini belirlemeden onu yaygınmış gibi gösterebilir. Kendinden emin bir anlatı, arkasında bir tanık bulunmadan tanıklık gibi duyulabilir. Bu ayrımlar önemlidir, çünkü karşılaştıklarımızdan edindiğimiz beklentilerle gerçek kararlar alırız.

Öyleyse bu beklentiler düzeltmeye nasıl açık kalabilir? Doğrudan deneyim yardımcı olur, ama o da sınırlıdır ve hataya açıktır. Başka insanlara, özenli haberciliğe, bağımsız araştırmalara, bilimsel yöntemlere ve güvenilirliği zaman içinde değerlendirilebilen ilişkilere ihtiyacımız vardır. Yararlı soru, belirli bir iddiayı neyin desteklediğidir: Kaynağı belirlenebilen bir deneyim mi, tekrarlanabilir bir test mi, bağımsız gözlemler mi, yoksa dayanağı belirsiz kalan bir sunum mu? Gerçekçi bir yüz bu soruyu bizim yerimize yanıtlayamaz.

Açık bir bilgilendirme, karşılaştığımız figürün ne tür bir figür olduğunu anlamaya yardımcı olabilir. Ama geriye yapılacak başka işler de kalır. Bir sunucunun sentetik olduğunu bilmek, onun nasıl oluşturulduğuna dair bir şey söyler; iddialarının doğru olup olmadığını ya da görünürdeki deneyiminin gerçek bir kaynağı bulunup bulunmadığını söylemez. Benzer biçimde, bir görüntünün kurmaca olduğunu bilmek, onu izlerken edindiğimiz bütün beklentileri mutlaka açığa çıkarmaz.

Belki farkındalık, dikkatin bu ikinci düzeyini de içermeli. Bir sahnenin gerçekten yaşanıp yaşanmadığını sorabiliriz; aynı zamanda bize neyi beklemeyi öğrettiğini de sorabiliriz. Artık nasıl bir beden sıradan görünüyor? Başarıya hangi hızda ulaşmak makul görünüyor? Hayvanlardan, arkadaşlardan ya da partnerlerden nasıl davranışlar bekliyoruz? Onları değerlendirmek için kullandığımız örneklerde benzer sınırlar bulunmadığı için hangi hayal kırıklıklarını başarısızlık diye yorumlamaya başladık?

Bu sorular, bu metin için de geçerlidir. Araştırma bulguları, kişisel bir gözlem ve geleceğe dair bir öngörü, farklı türde dayanaklar sunar. Bir argümanı geliştirmek ve ifade etmek için alınan yapay zekâ desteği, yazarın yaşamadığı bir deneyimi birinci elden sunamaz ya da makul bir yorumu doğrulanmış bir sonuca dönüştüremez. Okurlarından görünüşleri incelemelerini isteyen bir metin, kendi iddialarının dayanakları konusunda onlara açıklık borçludur.

Bir ürün öneren sentetik bir sunucuyla başladık. Bu daha geniş bakıştan görüldüğünde, o sahne bedenlere, deneyime, güvenilirliğe ve gündelik hayata ilişkin bir modelin oluşmasına da katkıda bulunabilir. Sahnenin doğrudan ticari amacı, izleyicinin ondan öğrenebileceklerinin yalnızca bir bölümüdür.

Dünyayı, yaşanmış gibi sunulan yapay hayatlar, deneyimler ve olaylar üzerinden öğrenmeye başladığımızda neyi gerçek, doğal, mümkün ve normal kabul edeceğiz? Ve ekrandan uzaklaştığımızda, bu ölçülerden hangileriyle yaşamaya devam edeceğiz?

**Kaynaklar**

- JD Corporate Blog. Richard Liu’nun ilk canlı yayınında kullanılan yapay zekâ temelli dijital temsilciye ilişkin duyuru, 22 Nisan 2024. - Marian Friestad ve Peter Wright. *The Persuasion Knowledge Model: How People Cope with Persuasion Attempts.* Journal of Consumer Research, 1994. - Albert Bandura. *Social Cognitive Theory of Mass Communication.* Media Psychology, 2001. - Sophie J. Nightingale ve Hany Farid. *AI-synthesized faces are indistinguishable from real faces and more trustworthy.* Proceedings of the National Academy of Sciences, 2022. - Lev Muchnik, Sinan Aral ve Sean J. Taylor. *Social Influence Bias: A Randomized Experiment.* Science, 2013. - Cristian Vaccari ve Andrew Chadwick. *Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News.* Social Media + Society, 2020. - Bobby Chesney ve Danielle Citron. *Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security.* California Law Review, 2019. - Jean Baudrillard. *Simulacra and Simulation.* İngilizce baskı, 1994.