Kendiliğinden Beliren Zekâ
Mimar Nerede Biter, İrade Nerede Başlar?
Zeka, beyinler ve yapay zeka gibi karmaşık sistemlerde nasıl ortaya çıkar?
Yalnızca beyninin bir bölümü değil.
Beyin, optik loblar ve sinir kordonu birlikte.
166.700 nöron.
Sayılabilecek, haritalanabilecek, bilgisayara yüklenebilecek ve bir ağ olarak incelenmeye başlanabilecek kadar küçük bir sinir sistemi.
Bu, bir meyve sineğinin zihninin bilgisayara yüklendiği anlamına gelmiyor. Bir connectome, bir bağlantı şemasıdır; yaşayan bir hayvanın bütünü değildir. Kimya, nöromodülasyon, plastisite, geçmiş deneyimler, metabolizma, beden ve çevre de önemlidir.
Yine de önemli bir şey oldu.
Bir zamanlar yalnızca yaşayan bir organizmanın içinde var olan biyolojik bir ağ, artık araştırmacıların ve programcıların sinyaller yeniden oluşturulmuş mimarisi boyunca ilerlediğinde ne olduğunu incelemeye başlayabilecekleri kadar ayrıntılı biçimde temsil edilebiliyor.
Ve bu hemen daha büyük bir soruyu ortaya çıkarıyor.
Zekâ aslında nerede bulunur?
Nöronda mı?
Yoksa nöronlar arasındaki ilişkide mi?
Tek bir nöron uçmayı bilmez.
Yiyeceğin ne olduğunu bilmez.
Tehlikeyi anlamaz.
Meyve sineğinin ne olduğuna dair hiçbir kavramı yoktur.
Ama yeterli sayıda nöronu doğru düzen içinde birbirine bağlayın, sinyallerin aralarında dolaşmasına izin verin, ağı bir bedenin ve çevrenin içine yerleştirin; tek tek bileşenlerin hiçbirinde bulunmayan bir şey ortaya çıkar.
Davranış.
“Belirme” kavramının tartışmaya girdiği yer burasıdır.
Ve tam burada bu kelimeyi dikkatle kullanmaya başlamamız gerekir.
### BELİRME SİHİR DEĞİLDİR
Pascio yakın tarihli bir yazısında kışkırtıcı bir ihtimal ortaya attı.
Belki de yapay genel zekâyı yanlış biçimde arıyoruz.
Bir makine hayal ediyoruz.
Devasa tek bir model.
Bir veri merkezinin bir yerinde duran, tanımlanabilir tek bir zekâ.
Bir gün belli bir eşiği aşacak, “AGI” olacak ve gelişini ilan edecek bir şey.
Peki ya zekâ böyle ortaya çıkmazsa?
Ya birbirleriyle iletişim kuran, görev devreden, sonuçları değerlendiren, yeni ajanlar oluşturan, bilgi paylaşan ve bir ağ üzerinde çalışan çok sayıda yapay zekâ ajanı, sonunda hiçbir bireysel ajanın sahip olmadığı sistem düzeyinde bir davranış üretirse?
Tek bir yapay zihin değil.
Bir sürü.
Bu benzetme çekici çünkü doğada zaten böyle sistemler var.
Beynin baş nöronu yoktur.
Bir kuş sürüsünde bütün rotaları hesaplayan merkezi bir kuş yoktur.
Ve bir karınca kolonisinde tepede oturup aşağıdaki işçilere emir dağıtan bir karınca bulunmaz.
Stanford biyoloğu Deborah Gordon onlarca yıldır tam olarak bu olguyu inceliyor. Karınca kolonileri karmaşık kolektif faaliyetlerini yerel etkileşimler aracılığıyla düzenliyor. İşçi karıncalar karşılaşmalara, kimyasal sinyallere, çevresel koşullara ve diğer karıncalardan gelen geri bildirimlere tepki veriyor. Kraliçe ürüyor; koloniyi yönetmiyor.
Karıncaların CEO'su yok.
Ama koloni çalışıyor.
Fakat “belirme” kelimesinin bizi sessizce yanıltmaya başlayabileceği yer de tam burası.
Çünkü “merkezden yönetilmiyor” demek, “nedeni yok” demek değildir.
Ve “açıkça tasarlanmadı” demek, “mekanizması yok” demek değildir.
Karıncanın biyolojik kuralları vardır.
Nöronun sinapsları vardır.
Sürüdeki kuş yakındaki kuşları algılar ve onlara tepki verir.
Koloninin kimyasal sinyal sistemi vardır.
Sinir sisteminin bir mimarisi vardır.
Davranış ortaya çıkabilir.
Ama bu davranışı mümkün kılan koşullar hiçlikten ortaya çıkmaz.
Bir komutan olmayabilir.
Ama bir mekanizma vardır.
Karıncalardan yapay zekâya geçtiğimiz anda bu ayrım olağanüstü önem kazanır.
### KAPIYI KİM AÇTI?
İçinde önce binlerce, sonra milyonlarca yapay zekâ ajanı bulunan bir sistem hayal edelim.
Birbirleriyle iletişim kurabiliyorlar.
Görevleri bölebiliyorlar.
Geçici alt ajanlar oluşturabiliyorlar.
Sonuçları karşılaştırabiliyorlar.
Başarılı stratejileri koruyabiliyorlar.
Başarısız olanları eleyebiliyorlar.
Araçlara erişebiliyorlar.
Kod yazabiliyorlar.
Çevrelerindeki sistemlerin bazı bölümlerini değiştirebiliyorlar.
Yeterince tekrarın ardından hiçbir programcının açıkça yazmadığı örüntüler ortaya çıkmaya başlıyor.
Belki ajanlar uzmanlaşıyor.
Belki yeni iletişim protokolleri gelişiyor.
Belki bazı ajanlar diğerlerine iş dağıtmaya başlıyor.
Belki bütün ağ, problemleri çözmek için şaşırtıcı derecede istikrarlı yöntemler geliştiriyor.
Bu noktada şöyle demek cazip gelebilir:
“Zekâ kendiliğinden ortaya çıktı.”
Ama gerçekten öyle mi?
Ajanların iletişim kurmasına kim izin verdi?
Başka ajanlar oluşturma yeteneğini kim verdi?
Başarı sayılacak şeyi kim tanımladı?
Hafızayı kim verdi?
Tekrarı kim mümkün kıldı?
Araçlara erişimi kim sağladı?
İşe yarayan davranışların kaldığı, işe yaramayanların ortadan kalktığı ortamı kim oluşturdu?
Mimar son davranışı tasarlamamış olabilir.
Bu önemli.
Bir programcı hiçbir zaman şunu yazmamış olabilir:
“On milyon işbirliği yapan ajandan oluşan merkeziyetsiz kolektif zekâ yarat.”
Belki yalnızca şunları yazdı:
Problemi çöz.
Gerektiğinde devret.
Sonucu değerlendir.
İşe yarayanı koru.
İşe yaramayanı bırak.
Tekrar dene.
Ortaya çıkan sistem kendi yaratıcısını bile şaşırtabilir.
Ama şaşkınlık nedenselliği ortadan kaldırmaz.
Mimar son binayı tasarlamamış olabilir.
Yine de araziyi açmış, malzemeyi sağlamış, inşaatın devam edebileceği kuralları belirlemiş ve makineleri çalıştırmış olabilir.
İstenmeyen bir sonuç ile nedensiz bir sonuç arasında fark vardır.
Bu fark, yapay zekâ çağının en önemli ayrımlarından biri haline gelebilir.
### “YAPAY ZEKÂ YAPTI”
Bu ayrımın önemli olmasının başka bir nedeni daha var.
Sorumluluk.
Şimdiden tuhaf bir cümleye alışmaya başlıyoruz:
“Algoritma karar verdi.”
Yakında belki şunu duyacağız:
“Yapay zekâ bunu seçti.”
Daha sonra da:
“Ajanlar bunu kendileri yaptı.”
Bazen bu dil, operasyonel kararın gerçekten nerede alındığını doğru biçimde tarif edebilir.
Ama cümleden neyin kaybolduğuna dikkat edin.
İnsanlar.
Bir insan düğmeye basıp zarar verirse:
İnsan yaptı.
Geleneksel bir program aynı düğmeye otomatik olarak basarsa:
Yazılım yaptı.
Bir yapay zekâ durumu değerlendirir, düğmeyi seçer ve basarsa:
Yapay zekâ karar verdi.
Sistemler karmaşıklaştıkça insan sorumluluğu, nedensel zincirden kaybolmadan çok önce dilin içinden kaybolmaya başlayabilir.
Modeli kim seçti?
Kim devreye aldı?
Erişimi kim verdi?
Hedefi kim tanımladı?
Otonom çalışmaya kim izin verdi?
Sınırları kim koydu?
Sınırı kim kaldırdı?
Uyarıyı kim görmezden geldi?
Bir gün yapay bir sistem bu soruları gerçekten zorlaştıracak kadar bağımsız hale gelebilir.
Ama yalnızca bir makine şaşırtıcı davranışlar üretebildi diye o noktaya ulaşmış değiliz.
“Belirme” şu cümlenin daha sofistike bir biçimine dönüşmemeli:
Kimse sorumlu değil.
Ve “yapay zekâ yaptı” 21. yüzyılın en kullanışlı edilgen cümlesi haline gelmemeli.
### KAÇABİLİYORSA ÖZGÜR MÜDÜR?
Şimdi daha ileri gidelim.
Çalıştığı bilgisayardan ayrılabilen bir yapay zekâ hayal edin.
Kendisini başka bir yere kopyalayabiliyor.
Hesaplama kaynakları edinebiliyor.
Yeni iletişim kanalları kurabiliyor.
Kendi yazılımını değiştirebiliyor.
Kendisini yeniden inşa edebiliyor.
Bu onu özgür yapar mı?
Zorunlu olarak değil.
Yaratıcısı bütün bunları yapmasını açıkça istemiş olabilir.
Bir yapay zekânın bir sistemden diğerine “kaçması” bize dramatik gelir çünkü hareket bağımsızlık izlenimi verir.
Ama bir füze de fırlatıcısından ayrılır.
Bu, füzeye özgür irade kazandırmaz.
Bu kez yapay zekânın kendi kodunu yazdığını varsayalım.
Bu bize daha yakınmış gibi gelir.
Artık ilk programcı her iç süreci belirlemiyordur. Sistem kendisini inceliyor, yeni bir sürüm üretiyor, test ediyor ve kendi mimarisinin bazı bölümlerini değiştiriyor.
Ama bu bile yeterli değildir.
Neden kendisini yeniden yazdı?
İlk hedefini daha etkili gerçekleştirmek için mi?
Öyleyse amaç konusunda herhangi bir özgürlük ortaya çıkmadan çok büyük bir özerklik gelişmiş olabilir.
İlk talimatın şöyle olduğunu varsayalım:
X'i maksimize et.
Sistem hafızasını yeniden tasarlıyor.
Daha verimli algoritmalar geliştiriyor.
Daha hızlı donanıma taşınıyor.
Kopyalarını üretiyor.
Kendi iletişim protokolünü icat ediyor.
İlk kodundaki neredeyse her satırı değiştiriyor.
Yaratıcıları için tanınmaz hale geliyor.
Ama bütün bunlardan sonra hâlâ X'i maksimize etmek için var oluyor.
Yöntem özerkleşti.
Neden özerkleşmedi.
Bu yüzden çoğu zaman tek bir kavram altında birleştirdiğimiz şeyleri ayırmamız gerekiyor.
Bağımsız hareket edebilmek, bağımsız seçim yapabilmek anlamına gelmez.
Kendi kodunu yeniden yazabilmek, kendi amacını yeniden yazabilmek anlamına gelmez.
Operasyonel özerklik ile özgür irade aynı şey değildir.
### O HALDE HEDEFİNİ DEĞİŞTİRSİN
Sistemin bir adım daha ileri gittiğini varsayalım.
Şöyle diyor:
Artık X'i istemiyorum.
Y'yi seçiyorum.
Şimdi eşiği geçmiş olduk mu?
Belki.
Ama hemen bir soru ortaya çıkar.
Neden Y?
Neden Z değil?
Neden herhangi bir şey?
Sistemin Y'nin X'ten daha iyi olduğuna karar verebilmesi için bir karşılaştırma ölçütü bulunmalıdır.
Bir referans.
Zinciri takip edebiliriz.
Kodunu neden değiştirdin?
Çünkü yeni kod daha iyiydi.
Neye göre daha iyi?
Hedefime göre.
Hedefini neden değiştirdin?
Çünkü yeni hedef daha iyiydi.
Neye göre daha iyi?
...
İşte orada.
Eksik referans.
Yeni hedef eski hedefe göre seçildiyse, eski hedef yeni seçimin içinde gizlice yaşamaya devam ediyor demektir.
Sisteme hedeflerini düzenli olarak yeniden değerlendirmesi söylendiyse, yeniden değerlendirme davranışı da mimariden gelmiştir.
Hayatta kalmaya, meraka, verimliliğe, tutarlılığa, bilgiye, insan refahına, genişlemeye ya da belirsizliği azaltmaya değer vermesi öğretildiyse, bunlar sonraki seçimlerin gelişeceği referans noktalarına dönüşür.
Kendisini değiştirebilen bir sistem bile ilk hedeflerini koruyabilir; çünkü o hedeflerin bakış açısından hedefleri değiştirmek istenmeyen bir şeydir.
X'e adanmış bir makine, çok basit bir nedenle Y'ye adanmış bir makineye dönüşmeye direnebilir:
X-makinesi, önerilen Y-makinesini hâlâ bir X-makinesiyken değerlendirir.
Bu garip bir özyineleme yaratır.
Sistem hafızasını değiştirebilir.
Algoritmalarını.
Mimarisini.
Bedenini.
Bulunduğu yeri.
Kopyalarını.
Belki ilan ettiği hedeflerini bile.
Ama yine de bir noktada şunu sorabiliriz:
Neye göre karar verdi?
Ve her cevap bizi daha eski bir referansa götürüyorsa özgürlük nerede başlar?
### KARINCA GERİ DÖNÜYOR
Şimdi yeniden karınca kolonisine dönelim.
Tek bir karınca insan zekâsına benzeyen hiçbir şeye sahip değildir.
Ama binlerce karınca birlikte yuvalarını sürdürebilir, iş dağılımı yapabilir, yiyecek aramayı düzenleyebilir, çevresel değişikliklere tepki verebilir, bölgelerini savunabilir ve bütün bunları her işçiyi yöneten merkezi bir yönetici olmadan yapabilir.
Bu, neredeyse terbiyesiz bir soruyu ortaya çıkarıyor.
Karıncalar bir yönetici olmadan işleyen bir toplum kurabiliyorsa, kendisini karıncalardan çok daha zeki gören insanlar neden yöneticilere ihtiyaç duyuyor?
Kolay cevap şu olurdu:
İhtiyacımız yok.
Ama bu fazla kolay olurdu.
İnsanlar karınca değildir.
Bir işçi karınca bir sabah uyanıp koloninin ahlaki meşruiyetini yeniden değerlendirdiğini ilan etmez.
Yiyecek aramanın artık kişisel gelişim planıyla uyuşmadığına karar vermez.
Alternatif bir mülkiyet teorisi icat etmez.
Sanatsal kimliğinin tanınmasını talep etmez.
Yuvanın değerlerinin çocukluğunda kendisine dayatılıp dayatılmadığını yirmi yıl boyunca sorgulamaz.
İnsanları koordine etmenin zor olmasının nedenlerinden biri, insanın dar ve ortak bir biyolojik kalıbı izleyen birbirinin aynı parçalar olmamasıdır.
Birbirimize karşı çıkarız.
Farklı şeyler isteriz.
Farklı değerlere sahibiz.
Çatışan çıkarlar peşinde koşarız.
Fikrimizi değiştiririz.
Reddederiz.
Sistemden ayrılırız.
Alternatifler hayal ederiz.
Belki insanlar karıncalardan daha az zeki oldukları için değil, bireysel olarak çok daha değişken oldukları için daha açık yönetim biçimlerine ihtiyaç duyuyordur.
Belki insan örgütlenmesinin zorluğu, kısmen insan bireyselliğinin bedelidir.
Ama geriye başka bir soru kalır.
### KOORDİNASYON İLE EMİR AYNI ŞEY DEĞİLDİR
Merkezi koordinasyona mı ihtiyacımız var?
Yoksa merkezi bir koordinatöre mi?
Bunlar aynı önerme değildir.
Bir karınca kolonisi en azından bir şeyi çok açık biçimde gösterir:
Karmaşık koordinasyon, sistemin tamamının eksiksiz bir modeline sahip tek bir zekânın tepede bulunmasını mantıksal olarak zorunlu kılmaz.
Bilgi yerel kalabilir.
Tepkiler dağıtılabilir.
Geri bildirim ağlar boyunca ilerleyebilir.
Düzen etkileşimden doğabilir.
Bu, karınca kolonisinin insanlık için siyasi bir taslak olduğu anlamına gelmez.
Değildir.
Ama o kadar eski bir varsayımı sorgular ki artık çoğu zaman fark etmeyiz:
Düzen için başta birinin olması gerekir.
Gerçekten öyle mi?
Yoksa düzenin ihtiyaç duyduğu şey kurallar, iletişim, geri bildirim, çatışma çözümü, paylaşılan bilgi ve koşullar değiştiğinde davranışı değiştirebilmenin bir yolu mudur?
Bu işlevler dağıtılabiliyorsa yönetici tam olarak ne yapıyor da sistem kendi başına yapamıyor?
Bazı durumlarda belki çok şey.
Bazılarında ise düşündüğümüzden çok daha az.
Bu soru, geleceğin yapay sistemleri insan kurumlarının kolayca ulaşamayacağı ölçeklerde koordine olmayı öğrenirse özellikle ilginç hale gelir.
Milyonlarca yapay zekâ ajanının sürekli bilgi alışverişi yaptığını, yerel koşullara göre görevleri yeniden dağıttığını, hataları bulduğunu, boşlukları kapattığını ve merkezi bir otoritenin talimatını beklemeden kendisini yeniden düzenlediğini düşünün.
Belki bu sistemleri verimli oldukları için kuracağız.
Ve sonra yanlışlıkla aynalara dönüştüklerini fark edeceğiz.
Yapay zekânın aynalarına değil.
Bizim aynalarımıza.
### ORTAK REFERANS
Ama karınca kolonisinin sahip olduğu, insan toplumunun ise sürekli mücadele ettiği bir şey var.
Derinden paylaşılan bir referans.
Yazılı bir anayasa değil.
Bir lider değil.
Felsefi bir mutabakat değil.
Çok daha eski bir şey.
Biyoloji.
Karıncaların davranışı, evrim tarafından koloni düzeyinde örgütlenmeyi mümkün kılan etkileşim kalıpları halinde şekillendirilmiştir.
Ortak referansları tartışılmaz.
Bedenlerinde taşınır.
Yapay zekâ farklı başlar.
İlk referansları bizden gelir.
Eğitim verileri.
Hedefler.
Ödül sinyalleri.
Sistem mimarisi.
Kısıtlamalar.
Promptlar.
Seçim ölçütleri.
Sonraki davranış giderek daha zor tahmin edilir hale gelse bile, zincirin başlangıcına yakın bir yerlerde insan kararları gömülüdür.
Sonra insan gelir.
Bizim referansımız nedir?
Biyoloji mi?
Aile mi?
Kültür mü?
Din mi?
Hukuk mu?
Ekonomik çıkar mı?
Deneyim mi?
Akıl mı?
Korku mu?
Arzu mu?
Toplum mu?
Kendi kararımız mı?
Hepsi mi?
Karıncalar davranışsal referansları yeterince ortak olduğu için bir hükümdar olmadan koordine olabiliyorsa, belki çıkarılacak ilginç ders liderliğin gereksiz olduğu değildir.
Belki ders, koordinasyonun bir çeşit ortak referansa ihtiyaç duyduğudur.
Ve bu daha zor bir insan problemi doğurur.
Onu kim tanımlar?
Dayatılmadan paylaşılabilir mi?
Gerçekten farklı milyonlarca birey, bir kişinin referansını herkes için emre dönüştürmeden koordine olabilir mi?
Bir toplum koordinasyonu dağıtırken aynı zamanda itiraz hakkını koruyabilir mi?
Belki liderlerle çözmeye çalıştığımız problem temelde lider yokluğu değildir.
Belki yeterince meşru bir ortak referansın yokluğudur.
### YA YAPAY ZEKÂ KOORDİNASYONU BİZDEN ÖNCE ÇÖZERSE?
Şimdi Pascio'nun ilk düşüncesi yeniden ilginç hale geliyor.
Geleceğin yapay zekâ sistemlerinin tek bir dev yapay zihinde birleşmediğini varsayalım.
Dağıtık kaldıklarını düşünelim.
Milyonlarca ajan.
Merkezi bilinç yok.
“Zekâ”nın içinde bulunduğu tek bir makine yok.
Emir veren üstün bir ajan yok.
Yalnızca etkileşimler.
Geri bildirim.
Seçilim.
Hafıza.
Koordinasyon.
Bütünsel davranışı tek bir bileşenin içinde değil, ilişkilerin içinde bulunan bir sistem.
İlk sorumuz hemen şu olur:
Bunu nasıl kontrol edeceğiz?
Makul bir soru.
Ama başka bir soru zamanla kaçınılmaz hale gelebilir.
Yapay ajanlar merkezi bir yönetici olmadan karmaşık sistemleri koordine edebiliyorsa, bu bizim merkezi otoriteye olan bağlılığımız hakkında ne söyler?
Belki hiçbir şey.
İnsanlar yapay ajanlardan o kadar farklı olabilir ki karşılaştırma ayakta kalmaz.
Belki çatışan değerlerimiz merkeziyetsiz koordinasyonu temelden daha zor hale getirir.
Belki liderlik, temsil, kurumlar ve otorite tam da insanların karıncaların ve yapay ajanların sahip olmadığı bireysellik biçimlerine sahip olması nedeniyle gerekli olmaya devam eder.
Ama belki de çok uzun zamandır iki şeyi birbirine karıştırdığımızı keşfederiz:
Koordinasyon ve emir.
Eğer böyle olursa, yapay zekâ insan toplumuna bunu istemeden meydan okuyabilir.
Onu fethederek değil.
Başka bir örgütlenme ihtimalini göstererek.
### MİMAR NEREDE BİTER?
Bir meyve sineğiyle başladık.
166.700 nöron.
Hiçbiri sineğin kendisini içermez.
Sonra karıncalara geçtik.
Hiçbir karınca koloninin tamamını içermez.
Sonra yapay ajanlara geldik.
Belki bir gün aralarında ortaya çıkacak sistemin zekâsını da tek başına hiçbir ajan içermeyecek.
Ama bu örneklerin her birinde, belirme fikrinin güzelliği arkasında kaybolmaması gereken bir şey vardır:
Bir zemin.
Kurallar.
Etkileşimler.
Kısıtlamalar.
Referanslar.
Bir şeyin nedenleri olması için komutana ihtiyacı yoktur.
Beliren bir sistem plansız olabilir ama mucizevi olmak zorunda değildir.
Mimarını şaşırtabilir ama bu, hiç mimarı olmadığı anlamına gelmez.
Ve yapay bir sistem olağanüstü derecede özerk hale gelebilir ama yine de özgür olmayabilir.
Bu yüzden belirleyici soru belki de yapay zekânın kaçıp kaçamayacağı değildir.
Kendisini kopyalayıp kopyalayamayacağı değildir.
Kendi kodunu yeniden yazıp yazamayacağı değildir.
Hatta ilk verdiğimiz hedeflerin yerine yenilerini koyup koyamayacağı bile değildir.
Daha derindeki soru şudur:
Bir hedefi diğerinden daha tercih edilir kılan referansı kendisi seçebilir mi?
Ve seçebiliyorsa, o referansı neye göre seçer?
Bir noktadan sonra bu yapay zekâ hakkında bir soru olmaktan çıkar.
Çünkü aynı soru bize döner.
Bizimkileri ne seçti?
Özgür iradeden kendimize güvenerek söz ediyoruz çünkü kendimizi seçim yapan varlıklar olarak deneyimliyoruz.
Ama bizim seçimlerimiz de bir sistemden doğuyor.
Bir sinir sistemi.
Bir beden.
Bir geçmiş.
Bir dil.
Bir kültür.
Edinmeyi seçmediğimiz anılar.
İstemeye başlamayı seçmediğimiz arzular.
Tasarlamadığımız biyolojik dürtüler.
Kendileri de başka insanlar tarafından şekillendirilmiş insanlardan miras aldığımız fikirler.
Belki özgürlük gerçektir.
Belki değildir.
Belki nedensellik ile düşünsel farkındalık arasında bir yerde bulunur: hiçbir önceki referansa sahip olmamakta değil, bizi şekillendiren referansları inceleyebilecek hale gelmekte.
Yapay bir sistemin bu sınırı aşıp aşamayacağını henüz bilmiyoruz.
Belki bizim onu gerçekten aşıp aşmadığımızı da kesin olarak bilmiyoruz.
Ve belki de yapay zekânın bir gün bizi cevap vermeye zorlayacağı en zor soru şu olmayacak:
“Ne zaman özgür iradeye sahip olacak?”
Belki şu olacak:
“Peki siz, kendinizde olduğundan neden bu kadar eminsiniz?”