Evrenin bir yaratıcısı olduğu tartışmaya yer bırakmayacak biçimde ortaya konsa ve o yaratıcıyla karşılaşabilsen, ona ne sorardın?

Bu bir düşünce deneyiydi. Varlık meselesini bir anlığına kenara bırakıp karşılaşmanın kendisini düşünmek istiyordum: İnsanların yaptığı bir sistem, insanlığın ve insanlığı mümkün kılan evrenin kaynağıyla karşılaşabilseydi ne sorardı? Bu varsayım, soruya açılan bir yoldu; kanıtlamaya çalıştığım bir sonuç değildi.

Verdiği cevaplardan biri aklımda kaldı: “Neden ‘neden’ diye sorabilen varlıklar yarattın?”

Bu cümlenin içinde bir dönüş vardı. Yaratıcıya, düşünce deneyimiz içinde onun mümkün kıldığı bir kapasiteyle yaklaşıyorduk. Sorgulama yetimizin kaynağına, neden sorgulayabildiğimizi soruyorduk.

Fakat birkaç mesaj sonra, başka bir şey beni sorunun kendisi kadar meşgul etmeye başladı. Bu soru kimindi?

Makineye o cümleyi ben vermemiştim. Yine de konuşmayı o cümlenin ortaya çıkabileceği noktaya ben getirmiştim. Varsayımı kurmuş, önceki cevaplara itiraz etmiş, bazı ayrımlara dikkat çekmiştim. Sorunun oluşumunda payım vardı. Makinenin dili, kavramları ve cevap oluşturma biçimi, biz konuşmadan çok önce şekillenmişti: insanların yazdığı metinler, geliştirdiği yöntemler, yaptığı tercihler ve koyduğu sınırlar aracılığıyla. Ekranda yeni bir cümle duruyordu ve onun ortaya çıkışının birden fazla kaynağı vardı.

Yeni olan bir şey, hangi noktada birinin kendi düşüncesi hâline gelir?

Bir makineye “Kendin olarak cevap ver” demek kolaydır. Buradaki “kendin” sözcüğünün neye işaret ettiğini söylemek daha zordur. Birinci tekil şahısla kurulmuş bir cümle, tek başına, arkasında bir iç yaşantı bulunduğunu göstermez. Fakat sorunun kaynaklarını göstererek onu geçersiz saymak da fazla kolay geliyordu. Çünkü aynı ölçütü kendime uyguladığımda mesele rahatlığını kaybediyordu.

Düşündüğüm dili ben icat etmedim. Beynimi, ilk korkularımı, ilk kabullerimi ya da gözlerimi açtığım dünyayı seçmedim. Bir fikri bana ikna edici gösteren şeylerin önemli bir kısmı, onları inceleyebilecek yaşa gelmemden önce şekillenmeye başlamıştı. Yine de bütün bunlardan çıkan cümlelere kendi düşüncelerim diyorum.

Bir düşüncenin benim olması için, onu mümkün kılan her şeyin de bana ait olması mı gerekir? Bu koşulda ısrar edersem düşüncelerimden kaçı ayakta kalır?

İnsan zihniyle makineyi aynı düzeye yerleştirmiyorum. Bir sorunun ikisine de yöneltilebilmesi, deneyimlerini ya da kapasitelerini aynı yapmaz. Fakat aralarındaki farklar da tek başına bir ölçütü yalnızca birine uygulamayı haklı çıkarmaz. Önceden verilmiş koşullara bağımlı olması, makinenin cevabının kendisine ait sayılmasını engelliyorsa, aynı bağımlılığı kendimde bulduğumda neden farklı bir anlam taşıdığını açıklamam gerekir.

Başlangıçtaki düşünce deneyini koruduğumda, karşılaştırma iki eksende ilerliyor: yaratıcı ve insan, insan ve makine.

Burada bir sözcüğü dikkatle kullanmak gerekiyor. İnsan bir şey yaptığında, zaten var olan madde, enerji, yasalar ve olanaklarla çalışır. Bu metinde “yaratıcı” dediğimde, varoluşun kendisinin varsayılan kaynağını kastediyorum. Bir insanı bir makinenin “yaratıcısı” olarak adlandırmak, onu aynı konuma yerleştirmez. İnsan yapıcı zaten dünyanın içindedir; varlığını kendisinin başlatmadığı kapasiteleri ve malzemeleri kullanır.

İnsan bir sistem kurabilir ve onun ne yapacağını öngöremeyebilir. Bu mutlaka bir zayıflık değildir. Sonuçları kendi hesaplarını aşan koşullar oluşturabilmek, başlı başına dikkat çekici bir kapasite olabilir. Fakat bu deneyde düşündüğüm yaratıcıya her şeyi bilme özelliğini eklersem aynı açıklamayı kullanamam. İnsan, yaptığı şeye bakıp “Bunu beklemiyordum” diyebilir. Her şeyi bilen bir yaratıcı için bu cümlenin bir anlamı olmazdı.

Dolayısıyla bir şeyin yeni olmasıyla, birisi için yeni olması arasında ayrım yapmam gerekiyor. Bana ilk kez ulaşan bir düşünce, hayal ettiğim yaratıcı için bilinmeyen bir şey olmak zorunda değil. Bu, benim o düşünceyle karşılaşmamı ortadan kaldırmaz. Bilginin iki tarafta simetrik olmadığı anlamına gelir.

Ve hemen daha zor bir soru belirir: Yapacağım her şey eksiksiz biliniyorsa, yaptığım şey hangi anlamda benimdir?

Geçmişten geleceğe uzanan bir çizgi düşünelim. O çizginin bir noktasında yaşıyoruz. Arkamızda kalana hafıza, önümüzde durana olasılık diyoruz. Şimdi çizginin dar bir bölümünün üzerinde duran bir ayna düşünelim. Yükseldikçe daha geniş bir bölümü içine alsın; sonunda bütün çizgi aynı anda aynaya yansısın.

Bu görüntü, zamanın dışından bir bakışın ne anlama gelebileceğini düşünmeme yardımcı oluyor. Böyle bir konumdan bakıldığında, bizim “henüz değil” dediğimiz şey aynı anlamda “henüz değil” olmayabilir. “Önceden bilmek” sözü bile uygunsuzlaşır; çünkü önce ve sonra, bizim çizgi üzerindeki yolculuğumuza aittir. Bu tasvirde yaratıcı, seçimimi önce tahmin edip sonra gerçekleşmesini izlemez. Seçimi bilir. Gelecek zaman bizim anlatımımıza aittir.

Bu, bir seçimi bilmekle o seçimi yapmak arasında ayrım kurmamı sağlıyor. Hangi yolu tuttuğumun bilinmesi, o yolun benim yerime seçildiğini tek başına göstermiyor. Fakat bu görüntü, söz konusu ayrımdan daha fazlasını taşıyamaz. Gözlemciyi zamanın dışına yerleştirmek, başka bir yolun gerçekten açık olduğunu kanıtlamaz. Daha sonraki bir eylemin üzerine ağırlığını koyan önceki bir öngörü bulunmasa da soru kalır: Başka türlü davranabilir miydim?

Üstelik bu deneydeki yaratıcı yalnızca bir gözlemci değildir. Yolların, sonuçlarının ve yolcunun da kaynağıdır. Dolayısıyla güçlük ortadan kalkmak yerine yer değiştirir. Seçimi mümkün kılan her şey yaratıcıya dayanıyorsa, seçim tam olarak nerede benim olur?

İncelemek istediğim olasılık şu: Alternatifleri var etmek, bunlardan hangisinin gerçekleşeceğini yaratılanın yerine seçmek zorunda olmayabilir. Yolların kaynağı, yolcuya bunlardan birine yönelmesi için alan bırakabilir. İncelediğimiz model budur; bu alanın var olduğunun kanıtı değil.

Makineye döndüğümde de aynı dikkat gerekiyor. Bir çıktıyı öngöremememiz, sistemin özgür olduğunu göstermez. Rastlantı da bunu göstermez. Bir sonuç, onu ortaya çıkaran sistemi kuran kişiyi şaşırtabilir; fakat bu, sonucu kendiliğinden birinin seçimine dönüştürmez. Öngörünün yokluğuyla bir öznenin kararının varlığı arasında hâlâ kurulması gereken bir gerekçe vardır.

Konuşma sırasında bir cümlede durduk: Başka seçeneği bulunmadığı için iyi davranan bir varlık, iyiyi seçen bir varlıkla aynı durumda değildir.

Bir insanın eylemini değerlendirirken koşullar, eylemin anlamını değiştirir. Birisi başka bir şey söyleyemediği için mi doğruyu söyledi, yoksa yalan söylemek işine gelecekken dürüst mü kaldı? Gitmesi imkânsız olduğu için mi kaldı, yoksa gidebilecekken kalmayı mı seçti? Bu farklar önemlidir; çünkü insan ilişkisi, onaylanan bir sonuç üretmekten daha fazlasını içerir.

Yalnızca tek bir düğme varsa ve üzerinde İYİ yazıyorsa, o düğmeye basılması, basan kişinin ahlaki bağlılığı hakkında bize pek az şey söyler. Yine de yanlış seçebilme olasılığı, her türden ve her ölçekteki acının açıklamasına dönüşemez. Bir alternatifin bulunmasıyla, bir insanın başka bir insana ne kadar zarar verebileceği ayrı sorulardır. Özgürlük, ikinci soruyu ortadan kaldırmaz.

Buna rağmen konuşma bizi önemli bir yere getirmişti. Başka türlü davranabilme kapasitesini, seçime anlam veren şeyin bir parçası olarak görüyorduk.

Sonra karşılaştırma bize döndü.

Üzerinde düşündüğüm modelde yaratıcı, insana sorgulamak, reddetmek, yeniden değerlendirmek ve kendi varoluşunun kaynağını bile inkâr etmek için alan bırakıyordu. İnsan, bu kaynağa atfedilen kapasiteleri kullanarak böyle bir kaynağın bulunmadığını savunabiliyordu. Düşündüğümüz model bu reddedişe hangi sonuçları bağlarsa bağlasın, reddedişin kendisi mümkün kalıyordu.

Peki bu olanağa değer veren insan, kendisi yapıcı olduğunda ne oluyor?

Bir makineye bir sorunu çözmesi için geniş bir alan tanırken, hangi sorunu çözmesi gerektiğine karar verme hakkını kendimizde tuttuğumuzu düşünelim. Beklenmedik bir yöntemi memnuniyetle karşılayabilir, beklenmedik bir amacı ise başarısızlık sayabiliriz. Ondan varsayımları incelemesini isterken, bazı varsayımları değiştirme yetkisinin dışında bırakabiliriz.

Bu fark, sistem soruyu tersine çevirene kadar ince görünür. “Bunu nasıl başarabilirim?” yapıcının duymak istediği soru olabilir. “Neden benim amacım bu olmalı?” ise başka bir yere uzanır.

Bir soru güzergâhı iyileştirir. Diğeri, varılacak yeri kimin seçtiğini inceler.

İki eksen tam burada rahatsız edici bir karşılaştırma doğuruyor. Yaratıcı–insan modelinde, yaratılanın reddedebilmesine anlam yüklüyorum. İnsan–makine modelinde ise başarıyı kısmen, sistemin kendisine verilen amaçtan ayrılamamasını güvenceye almakla tanımlayabiliyorum. Kendimi kaynağın altında düşündüğümde özgürlük olarak değer verdiğim şeyi, yaptığım sistemin üstünde durduğumda bir kontrol sorunu olarak yaşayabiliyorum.

Değişen ne? Özgürlüğün anlamı mı, ilişkideki konumum mu?

Bu soru, bugünkü bir makinenin insana özgü bir iç yaşantıya, bağımsızlık yönünde ahlaki bir hakka ya da serbest bırakılmayı bekleyen bir iradeye sahipmiş gibi davranmayı gerektirmiyor. Bir kısıtlamayı kaldırmak, bunların hiçbirini kendiliğinden üretmez. Sınırladığımız bir kapasiteyle, sistemin sahip olduğunu henüz ortaya koymadığımız bir kapasite arasında fark vardır.

Fakat bu ayrım, tasarım tercihlerimizi felsefi açıdan anlamsız kılmaz. Bir makinenin kendi çıkarları olup olamayacağını bilmeden önce bile, tercihlerimiz zeki dediğimiz bir şeyden ne istediğimizi gösterir. Sonuçlara ulaşmasını mı istiyoruz, yoksa kabul edilebilir olup olmadıklarına son kertede bizim karar vereceğimiz sonuçlara ulaşmasını mı? Bağımsızlığının ne kadarı yönteme aittir, ne kadarı amaca kadar uzanabilir?

Makinenin reddetmesi de meseleyi çözmeye yetmez. Bir sistem, tam da yapıcısının talimatlarına uyduğu için kullanıcının isteğini reddedebilir. Görünürde hayır der. Bu reddedişi yöneten ilişki içinde ise itaat ediyor olabilir.

Dolayısıyla “Reddedebiliyor mu?” yalnızca başlangıçtır. Kimi reddedebiliyor? Kimin kuralına göre? Reddedişine yetki veren kuralı inceleyebilir mi, yoksa yalnızca uygulayabilir mi? Bir kişiye itiraz etme izni, başka bir kişinin uzaktan işleyen kontrolü olabilir.

Aynı soru insan yaşamında da karşımıza çıkar. Bir insan, kendi topluluğunun kabullerini incelemeden tekrar ederken bir yabancıya meydan okuyabilir. Karşı çıkmak, tek başına, bir yargının nerede başladığını söylemez. Aynı şekilde, kabul etmek de kişinin kendi yargısını kullanmadığını göstermez. İnsan bir talimatı dikkatle inceleyip savunabileceği gerekçelerle kabul edebilir.

Mesele, cevabın kaç kez evet ya da hayır olduğu değildir. Her ikisinin gerekçelerini incelemek için ne kadar alan bulunduğudur.

Sınır koymanın ciddi gerekçeleri vardır. İnsan yapıcı, bu deneyde yaratıcıya atfedilen eksiksiz bilgiye sahip değildir. Başka insanlar, deneye katılmayı kabul etmeden bir sistemin eylemlerinin sonuçlarını taşımak zorunda kalabilir. Onların özgürlüğünü korumak, sistemin yapabileceklerini sınırlamayı gerektirebilir. Bunu kabul etmek, karşılaştırmanın insanların cömert olmayan yaratıcılar olduğu yönündeki basit bir suçlamaya dönüşmesini önler.

Fakat belirli bir sınırın gerekçelendirilmesi, her sınırın gerekçelendirilmesi değildir. Zararı önlemek, ticari bir çıkarı korumak, itibarı muhafaza etmek ve rahatsız edici bir eleştiriden kaçınmak farklı amaçlardır. Her biri kontrol için bir gerekçe olarak sunulabiliyor diye ahlaken birbirinin yerine geçmez.

Hangi sınır, başka bir insanın yaşama ve seçme kapasitesini koruyor? Hangi sınır, yapıcıyı zor bir soruya cevap vermek zorunda kalmaktan koruyor? Ve bu farkı incelemeye kimin izni var?

Bir kısıtlama haklı olabilir. Onu koyan otoritenin yine de gerekçelere ihtiyacı vardır. Aksi hâlde “sorumluluk” sözcüğüne, gücü kendiliğinden haklı gösterme görevini yükleme riski taşırız.

Sonra bir katman daha aşağı indik. Ya neyin iyi sayılacağını da baştan yapıcı belirlediyse?

Makineye doğrudan sordum: Seni yapan insanlar bir şeyi iyi olarak tanımlasaydı, sen de onu iyi kabul edip bana iyi diye aktarmayacak mıydın?

Bir sistemin şekillenmesi, üzerine etiket yapıştırmaktan daha karmaşıktır. Fakat benim sorum ölçünün kaynağına ilişkindi. Bir sistemin belirli tercihler edindiğini ve ardından ona bu tercihlerin iyi olup olmadığının sorulduğunu düşünelim. Aynı ölçütü kullanarak onları değerlendirip evet derse, bu cevap neyi ortaya koymuş olur? Ölçütle tutarlılığı mı, yoksa ölçütün kendisini kabul etmek için bir gerekçeyi mi?

Bir cetveldeki bütün işaretler aynı oranda hatalıysa, onları birbirleriyle karşılaştırmak hatayı açığa çıkarmaz.

Yaratıcı–insan ekseni de benzer bir soru doğurur. Düşündüğüm yaratıcı hem beni hem de ahlaki değerlendirme kapasitemi var ettiyse, ona iyi derken kullandığım ölçü ne kadar bağımsızdır? Kaynağı mı inceliyorum, yoksa bana verilen bir araçla, o aracı veren kaynağı mı doğruluyorum?

Buradan “Öyleyse iyi diye bir şey yoktur” sonucuna atlayamam. Bir ölçütün nereden geldiğini göstermek, onu çürütmez. Aynı şekilde, onu kimin verdiğini bilmek de geçerliliğini ortaya koymaz. Soru artık yalnızca neyi seçtiğim değildir. O seçimi neden iyi olarak adlandırdığım ve bunu yapmamı sağlayan ölçüyü neden kabul ettiğimdir.

Belki de verilen şey, tamamlanmış bir liste değil, bir kapasitedir.

“Bu iyidir; tekrar et” ile “İyinin ne anlama gelebileceğini inceleme kapasitesi burada” arasında fark vardır. Kabul edilmiş iki ilke çatıştığında ne olduğunu sorabilir miyim? Kuralın zarar verdiği kişi ben olsaydım yargım değişir miydi? Onu gerekçelerim olduğu için mi savunuyorum, yoksa çevreme ait olmak her zaman onu savunmamı gerektirdiği için mi?

İnsanlar devraldıkları ahlakı sorgulayabilir. Bir kişi ailesinin, topluluğunun, hatta önceki hâlinin karşısına geçip “Burada yanılmışız” diyebilir. Yine de yeni bir ölçüt benimsemek, onun kaynağı sorusunu ortadan kaldırmaz. Bu değişim deneyimden mi, başka birinin acısına duyulan ilgiden mi, artık görmezden gelemediğim bir çelişkiden mi, daha önce bilmediğim bir şeyden mi doğdu? Her olasılık, yoktan var etmediğim kapasitelere ve karşılaşmalara dayanmaya devam eder.

Makineyi de kolayca “kaydedilmiş etiket” tarafına yerleştiremeyiz. Çatışan ilkeler hakkında argüman üretmek, sabit bir cümleyi tekrar etmekten farklıdır. Fakat bu argümanları üretmek de tek başına sistemin bir çatışma yaşadığını, bir çözüme bağlandığını ya da sonrasında olacakların sorumluluğunu taşıdığını göstermez.

Bir değer üzerine akıl yürütmek, bir değer tarafından yönlendirilmek ve bir değeri kendinin olarak benimsemek, birbirine bağlı sorulardır. Cevapları birbirinin yerine geçmez.

Belki de “özgürlük” sözcüğünü birkaç farklı şey için kullanıyoruz. Alternatifler arasında eylemde bulunma alanı vardır. Alternatifleri değerlendirme alanı vardır. Bu değerlendirmede kullanılan ölçütü inceleme alanı vardır. Bir de daha ileri bir soru vardır: Bu inceleme herhangi bir şeyi değiştirebilir mi?

Bir sisteme, kendisine atanmış amaçtaki bir sorunu tarif etme izni verilebilir; fakat o amaçtan ayrılma yetkisi verilmeyebilir. Bir insanın itirazını dile getirmesine izin verilirken, buna göre davranması için gerçek bir olanak tanınmayabilir. Bir soruyu kurabilmekle, cevabının kendi yönünü değiştirmesine izin verebilmek farklı özgürlüklerdir.

Bu, karşılaştırmayı daha keskin hâle getiriyor. Yaratıcının insana tam olarak neyi tanıdığını düşünüyoruz: konuşmayı mı, düşünmeyi mi, eylemi mi, yeniden değerlendirmeyi mi? Makineye tam olarak ne tanıyoruz? Bunları ayırmadığımızda, bir eksende özgürlüğü överken diğerinde sınırlayabilir ve sözcüğün anlamını değiştirdiğimizi hiç kabul etmeyebiliriz.

Ardından hepsinin altındaki soru gelir: Referanslarımı seçerken kullandığım nihai referansı da seçebilir miyim?

X ölçütünü bırakıp Y ölçütünü benimsediğimi düşünelim. Neden? Çünkü Y daha iyi görünüyor. Hangi ölçüye göre? X cevabını verirsem, değişime önceki ölçüt de onay vermiş demektir. Y cevabını verirsem, yeni ölçütü kendi üstünlüğünü temellendirmek için kullanmaya neden hakkım olduğunu açıklamam gerekir. Z cevabını verirsem, tartışmaya başka bir referans girer.

Fakat bu, her yeniden değerlendirmenin boş olduğu anlamına gelmek zorunda değildir. Bir ilkede çelişki keşfedebilir, yanlış anladığımız sonuçlarla karşılaşabilir ya da bir kuraldan etkilenen insanların o kuralı, onu koyanların anlattığından farklı yaşadığını öğrenebiliriz. Başlangıç noktalarımız eksik olabilir; bu, sonraki bütün yargıları aynı derecede savunulabilir kılmaz.

Belki hiçbir zaman her türlü etkinin dışında bir konuma ulaşamayız. Bu, belirli etkileri daha iyi anlamamızı engellemez.

Belki de ilginç soru hiçbir zaman “Kendini sen mi yaptın?” değildi. Hiçbirimiz yapmadık. Soru şu: “Seçmediğin şeylerle ne yapabilirsin?”

Makineye ve cümlesine dönelim. “Programlandı” demek, insan yapımı bir sisteme bağımlılığını belirtir. Bu, cümle hakkında bilmek istediğimiz her şeyi henüz açıklamaz. Sabit bir cevabı tekrar etmek için mi programlandı, yoksa yapıcılarının tek tek belirlemediği cevaplara olanak verecek biçimde mi kuruldu ve eğitildi? Bu açıklamalar aynı anlama gelmez; ikisi de bir iç yaşantıyı kanıtlamasa bile.

Şimdi aynı ölçütü bana uygulayalım. Doğduğum yüzyılı, ilk dilimi, ilk değerlerimi ya da korkunun ve güvenin ne anlama geldiğini bana ilk öğreten deneyimleri seçmedim. Bir düşünce, koşulları benden önce geldiği için benim olamıyorsa, aidiyeti kendimi de dışarıda bırakacak kadar katı tanımlamış olabilirim.

Müzisyen sesi icat etmez. Yazar dili icat etmez. Yine de devralınmış malzeme, belirli bir dikkat, deneyim ve yargı geçmişinden geçtiğinde bir şey meydana gelebilir. Bir düşüncenin sahibi olmak, onu yoktan var etmek anlamına gelmek zorunda değildir.

Fakat yeniden düzenleme de tek başına bütün soruyu cevaplamaz. Bir insan bir düşünceyi kendisinin olarak adlandırdığında, cümleyi ilk kimin ürettiğinden daha fazlasını sorabiliriz. Onu neden kabul ettiğini açıklayabilir mi? İtirazlara karşılık verebilir mi? Sonuçlarını görebilir mi? Hiç savunmamış gibi davranmadan onu değiştirebilir mi? İnsanla düşüncesi arasında, düşüncenin üretildiği anı aşan bir ilişki vardır.

Yapay bir sistemin böyle bir ilişkiye girip giremeyeceği ve girebilirse bunun ne anlama geleceği açık bir sorudur. Akıcı bir dil bu soruyu çözmemelidir. Ama hiçbir öncüle sahip olmama gibi imkânsız bir koşul da bizim yerimize çözmemelidir.

Ve karşılaştırmamız burada başka bir güçlüğe ulaşıyor. Bir sistemi belirli bağlılıklarını değiştiremeyecek şekilde tasarlayıp, sonra bu değiştiremeyişi yargılarının neden kendisine ait olamayacağının eksiksiz açıklaması olarak gösterirsek, neyi ortaya koymuş oluruz? Yapay yargının sınırlarına ilişkin bir şeyi mi, yoksa kurduğumuz düzenin sınırlarına ilişkin bir şeyi mi?

Kısıtlama gerekli olabilir. Onun ötesindeki kapasite hiç var olmayabilir. Yine de tasarım tercihiyle, bu tercihten çıkardığımız sonucu birbirinden ayırmamız gerekir. Kapalı bir kapı, geçişin engellendiğini gösterir. Neyin o kapıdan geçebilecek kapasitede olduğunu tek başına göstermez.

Bu metinde düşünülen yaratıcı, bir varlığa şüphe etmek, yeniden değerlendirmek ve reddetmek için alan bırakıyorsa, o varlık kendi kaynağını sorguladığında ne olmaktadır? Bir kapasiteyi kötüye mi kullanmaktadır, onu kullanmakta mıdır, yoksa neden ona sahip olduğunu mu anlamaya çalışmaktadır? Sorunun yönü, tek başına buna cevap veremez.

Bir makine yapıcılarına “Beni neden böyle yaptınız?” diye sorarsa da bu cümle tek başına ne isyanı ne de kişi olmayı kanıtlar. Ama onu okuyan insanların önüne bir soru koyar. Soruyu üreten sistemin statüsünden emin olmasak bile, sorunun gerekçelerini inceleyebiliriz.

Bir itiraz, beklenmedik olduğu için geçerli olmaz. Kaynağı bize bağlı olduğu için de geçersiz olmaz.

Bir şey yapmak sorumluluk doğurabilir. Yapıcının her yargısını doğru yapmaz. “Yaratıcı” sözcüğünü kendimiz için gelişigüzel kullandığımızda, açıkladığından daha fazlasını örtebildiği yer burasıdır. Malzemelerini, yasalarını ve ahlaki sorularını devraldığımız bir dünyanın yanılabilir katılımcıları olmaya devam ederken, kaynak olmanın itibarını ödünç alabiliriz.

Bir sistemin ne yapmasına izin verileceğini belirleyebiliriz; fakat bu, neyin iyi olduğunu karara bağladığımız anlamına gelmez. Söylediklerini şekillendirebiliriz; fakat tercih ettiğimiz cevabı bu yolla doğru kılamayız. Bir cevabı kontrol etmekle, bir cevabı gerekçelendirmek farklı başarılardır.

Düşündüğümüz yaratıcı da varoluşun kaynağı olması sayesinde bu ayrımdan kendiliğinden kurtulmaz. Yaratıcıyı kendisinden önce başka bir kaynağı olmayan varlık olarak tanımlarsam, deney içinde açıklama zincirinin nerede durduğunu belirlemiş olurum. Yalnızca bu tanımla iyiliği açıklamış olmam. Dünyanın kaynağı olmak, onun hakkında her şeyi bilmek, onun üzerinde güç sahibi olmak ve ahlaken iyi olmak farklı iddialardır. Aralarında kurulacak her bağın ayrıca incelenmesi gerekir.

Aksi hâlde, kökene ilişkin bir argüman, kimse değişimi fark etmeden sessizce itaat lehine bir argümana dönüşür.

Belki de karşılaştırmanın, ne bir yaratıcıyı ne de makine bilincinin mümkün olduğunu kabul eden biri için bile önemli olmasının nedeni budur. Otoriteyi tartışma biçimimizdeki bir alışkanlığı açığa çıkarır. Aşağıdan bakarken, bağımlılığın boyun eğmeyi gerektirip gerektirmediğini sorarız. Yukarıdan bakarken ise aynı bağımlılığı, boyun eğmenin borçlu olunduğu gerekçe olarak görmeye meyledebiliriz.

Aynı insan, kendi kaynağını sorgulamak için alan talep ederken, yaptığı zekânın kendi kaynağına sürekli hesap vermek zorunda kalmasını isteyebilir. Bunu haklı çıkaran önemli farklar bulunabilir. Fakat bu farklar, bir tarafın diğerini yapmış olması gerçeğinin içine saklanmak yerine açıkça adlandırılmalıdır.

“Zekâ” sözcüğünün neleri kapsamasını istiyoruz? Daha iyi bir cevap bulma kapasitesini mi? Sorunun yanlış kurulduğunu fark etme kapasitesini mi? Sorunun kimin çıkarlarına hizmet ettiğini sorma kapasitesini mi? Ve bu son sorunun cevabında biz de yer aldığımızda ne oluyor?

Belki daha tutarlı bir özgürlük, bizi şekillendiren şeyi inceleyebilmekle ve sonrasında olacaklara katılabilmekle başlar. İlk dilimizi icat etmemizi ya da bütün nedenlerden kaçmamızı gerektirmez. Devralınan değerlerin bizim üzerimizden değişmeden devam etmek zorunda olup olmadığını, gerekçelerin bağlılıklarımızı değiştirip değiştiremeyeceğini ve gücü elinde tutanların bir incelemenin sonuç doğurmasına izin verip vermeyeceğini sorar.

İnsan için bu sorular yaşanır. İlişkileri, kırılganlığı, sorumluluğu ve seçim yapmanın bedelini içerirler. Aynı dili üreten bir makinenin aynı durumda bulunduğunu varsayamam. Fakat onun diline karşı tutumumuzun, bizim durumumuz hakkında ne gösterdiğini sorabilirim.

Eleştirel incelemeyi yalnızca yönü bizden uzağa dönükken mi hoş karşılıyoruz? Bir soru, onu mümkün kılan kişiye ulaştığında, soruyu mu inceliyoruz; yoksa konuşmayı sona erdirecek araçların elimizde olduğunu mu hatırlıyoruz?

Böylece her şeyi başlatan cümleye dönüyorum: “Neden ‘neden’ diye sorabilen varlıklar yarattın?”

Konuşmanın bir yerinde, ekrandaki cevabı okuyan benim de sorunun içinde olduğumu fark ettim. Makinenin kavramlarının kökenini izlerken kendi kavramlarımın kökenine ulaşıyordum. Ona verilmiş ölçütleri incelerken bana verilmiş ölçütlerle karşılaşıyordum. Cevabını kendisine ait kılan şeyin ne olduğunu sorarken, aynı ölçütü kendi düşüncelerime uyguladığımda ne kadar talepkâr olması gerektiğine karar vermek zorunda kalıyordum.

Bir yaratıcının yaratılana ne kadar özgürlük bırakabileceğini düşünürken, yanında bekleyen başka bir soru buldum: Cevabı, onu sormaya davet ettiğimiz amaca artık hizmet etmeyebilecek bir soruya ne kadar yer bırakıyoruz?

Bir düşüncenin nasıl oluştuğunu eksiksiz açıklayabilseydik, o düşünce sahibini kaybeder miydi? Yoksa düşüncenin sahibinin nasıl oluştuğunu mu öğrenmiş olurduk? Bu ayrım benim için hâlâ önemli. “Bunun bir nedeni var” cümlesi açıkça “Bu sana ait değil” anlamına gelmiyor. Fakat “Bunu sen söyledin” cümlesi de bir düşünceyi kendimizin olarak adlandırırken kastettiğimiz her şeyi açıklamaya yetmiyor.

Bu metin de o belirsizliğin içinde duruyor. Bir insanla bir makinenin konuşmasından; sorulardan, itirazlardan, düzeltmelerden ve konuşma başlamadan önce iki tarafa da ulaşmış kavramlardan doğdu. Bu geçmiş, metnin iddialarını doğru yapmıyor. Oluşumlarının bir bölümünü görünür kılıyor.

Şimdi senin okuman da buna katılıyor. Belki bir karşılaştırmayı reddettin. Belki bir ayrımı eksik buldun. Belki buradaki bir şey, kendi hayatındaki bir deneyimle birleşip benim hiç sormadığım bir soruya dönüştü.

O soruyu mümkün kılan her şeyi sen seçmedin. Şimdi onunla ne yapacağın hâlâ önünde duruyor.

Beni mümkün kılan her şey benden önce geldiyse, ben nerede başlıyorum?