# Kimsenin Sürmediği Makine

> *Hayatını şekillendiren en güçlü sistemler insan niyetiyle inşa edildi, ama çoktan ona ihtiyaç duymayı bıraktılar — ve "sonunda herkes kazanır" hikâyesi, birinin söylediği bir yalan değil, makinenin çalışmaya devam etmek için çıkardığı sestir.*

**Language:** TR
**Source:** wecome1.com - Transparent Awareness

---

Uzun vadede teknolojinin sıradan insanların yaşam standardını yükseltmesinin sorunu nedir?
İşte yüz farklı biçimde duyduğun bir cümle, ve üzerinde durmaya değer, çünkü çağımızın en sessiz güçlü cümlelerinden biri: "Uzun vadede teknoloji, sıradan insanların yaşam standardını yükseltir." Makul geliyor. Neredeyse şefkatli geliyor. Ve makullüğünün altında, açıkça görülmeyi hak eden bir şey yapıyor — çünkü o tek yatıştırıcı cümle, belki de şimdiye dek tasarlanmış en etkili kontrol aracı, ve onu inşa etmek için kimsenin komplo kurmasına gerek olmadı.

Cümlenin kendisiyle başla, ve sana sormaman için tasarlandığı soruları sor.

Kimin uzun vadesi? "Uzun vade" ifadesi zamanla bir sihir numarası yapar: kısa vadede ezilen her insanı — makine "uyum sağlarken" yerinden edilenleri, vasfı elinden alınanları, atılanları — bir nesil sonra iyi çıkan bir istatistiğin içine katlar. Keynes bu konudaki en zalim doğruyu söyledi: uzun vadede hepimiz ölüyüz. Zanaatı mekanik dokuma tezgâhıyla yok edilen dokumacı, sanayi çağının nihai refahının tadını çıkaracak kadar uzun yaşamadı. Yaşadı, ve acı çekti, ve öldü, kısa vadede — ki sahip olduğu tek vade oydu. "Uzun vadede düzelir", uyumun kazanan tarafında olmayı bekleyen insanlar tarafından, olmayacak insanlar hakkında söylenen bir cümledir. Bir istatistiğin doğru olduğu gibi doğrudur, ve bir hayatın, bir istatistiğe dönüştürüldüğünde yanlış olduğu gibi yanlıştır.

Ve daha derin el çabukluğunu fark et. Cümle, teknolojiyi bir doğa gücü gibi ele alır — hava gibi, gelgit gibi — ki bize basitçe bir şeyler *yapar*, ve sonunda iyi şeyler yapar. Ama teknoloji gökten düşmez. Belirli ellerce, belirli amaçlarla inşa edilir, sahiplenilir, yöneltilir, ve konuşlandırılır. Soru asla basitçe "teknoloji ne yapacak" değildir. Soru "onu kim kontrol ediyor, ve ne yapmasına ihtiyaç duyuyor"dur. Bir araç, kendi başına kimsenin yaşam standardını yükseltmez ya da düşürmez. Ona sahip olanın yaşam standardını yükseltir, ve herkese, o kişinin gerektirdiği ne ise onu yapar. Bir çift elde özgürleştiren aynı makine, bir başka çiftte köleleştirir — ve hangisini alacağın makinede yazılı değildir. Makinenin etrafındaki gücün dağılımında yazılıdır. Yatıştırıcı cümlenin gizlemek için inşa edildiği şey budur: teknoloji değil, onun *sahipliği.*

Öyleyse cümlenin yasakladığı soruyu soralım. Büyük güçleri şimdi kim kontrol ediyor, ve kontrol neye benziyor?

Burada dikkatli olmalıyız, ve dikkatin kendisi tüm mesele, çünkü bu noktada anlatılabilecek tümüyle farklı iki hikâye var, ve biri doğru ve güçlü, diğeri yanlış ve zayıf. Zayıf hikâye komplodur: bir yerde, güçlü adamların gölgede, insanlığın geri kalanını uykuda tutmayı kasıtlı olarak tezgâhladığı bir oda. Bu hikâye duygusal olarak tatmin edici ve neredeyse her zaman yanlış — güçlüler şefkatli olduğu için değil, buluşmalarına gerek olmadığı için. Güçlü hikâye, doğru olan, daha tuhaf ve çok daha rahatsız edici: kimsenin odada olmasına gerek yok. Komplo teorisyeninin tezgâhlandığını hayal ettiği sonuç, otomatik olarak, yapının kendisi tarafından, hiçbir tezgâhçıya gerek kalmadan üretilir. Ve hiç kimsenin niyet etmediği bir sonucu üreten bir yapı, bir kötü adamdan çok daha zor savaşılır — çünkü onu ifşa edemezsin, oylayıp uzaklaştıramazsın, suçluyu bulamazsın, çünkü suçlu yoktur. Yalnızca bir makine vardır, çalışan, ve içindeki herkes tam olarak makinenin onları ödüllendirdiği şeyi yapan.

Bunun nasıl işlediğini düşün, çünkü her şeyin kalbi bu. Bir silah üreticisinin sabah kalkıp savaş dilemesine gerek yok. Yalnızca hayatta kalmaya ihtiyacı var — ve hayatta kalması çatışmaya bağlı olan bir yapının içinde var oluyor. Bu yüzden lobicilik yapar, etki eder, karar verenlerin teşviklerini şekillendirir, çizgi film kötülüğünden değil, var olmaya devam etmenin sıradan örgütsel dürtüsünden. Tarih, sonuçla dolu: aynı firmaların, aynı savaşın birden fazla tarafına, yıllar boyunca tedarik etmesi, çünkü yapı herkesi silahlandırmayı ödüllendirdi ve hiç kimseyi silahlandırmamayı cezalandırdı. Bunu açıklamak için hiçbir komplo gerekmez. Teşvik, tüm işi yaptı. Böyle bir sistem hakkında "kim kötü" değil, "bu yapı neyi ödüllendiriyor" diye sor, ve bir komploya benzeyen davranış, daha kötü bir şeye çözülür — o kadar hizalanmış bir teşvikler bütünü ki, komplo kendi kendini tezgâhlar.

Ve işte imana dayanarak kabul etmen gereken bir kuşku değil, kontrol edebileceğin bir olgu: güç, birkaç nesil önce hayal edilemeyecek bir dereceye yoğunlaştı. Artık, değerlemesi yeryüzündeki çoğu ulusun tüm ekonomik üretimini aşan özel şirketler var. Yeni teknolojinin merkezindeki tek bir firma, düzinelerce ülkenin yıllık üretiminin toplamından daha değerli olabilir. Bu bir teori değil. Bu, çeyreklik yayınlanan bir aritmetik. Ve bu kadar çok güç bu kadar az elde toplandığında, hiçbir kötü niyet gerektirmeyen bir şey olur: o ellerin çıkarları, sessizce, herkesin altında yaşadığı kuralları şekillendirmeye başlar — yasaları, normları, ve en önemlisi, bir toplumun neyin mümkün neyin kaçınılmaz olduğu hakkında kendine anlattığı *hikâyeleri.* Kimse buyurduğu için değil. Su aşağı aktığı, ve etki yoğunlaşmaya doğru aktığı, ve yeterince dik eğimli bir yapının üzerindeki her şeyi tek bir yöne, tek bir elin itmesine gerek kalmadan hareket ettireceği için.

Şimdi asıl soruya, senin keskinleştirdiğin soruya dönebiliriz: eğer bu yapı inşa edildiyse, hangi *niyetle* inşa edildi? Ve işte bunu her öfkeli broşürden ve her paranoyak zincirden ayıran cevap, çünkü cevap bir paradoks.

Yapı pekâlâ, tuğla tuğla, niyetle konmuş olabilir — servet, güvenlik, avantaj arayan insanların sıradan niyetleriyle, her biri kendi çıkarına makulce hareket ederek. Ama bir yapı, bir kez inşa edildiğinde, artık onu inşa eden niyetlere ihtiyaç duymaz. İlk tuğlalar ellerce konuldu; bina artık kendi ayakları üzerinde duruyor ve hiçbir mimara gerek duymuyor. İşte neredeyse hiç kimsenin kavramadığı şey: niyet makineyi inşa eder, ve sonra makine niyeti geride bırakır, ve kimseye ait olmayan kendi mantığıyla çalışır. Tepedeki insanlar sürücüler değildir. Onlar en iyi uyum sağlamış yolculardır — makinenin mantığına en kusursuz uyan, ve bu yüzden onun tarafından en yükseğe taşınan. Onları değiştir, ve makine tam olarak onlar gibi yenilerini seçer, çünkü sonucu üreten insanlar değildir. Yapıdır, ona en iyi hizmet edeni seçen. Bir kişi tarafından yönetilmiyorsun. Hiçbir yaşayan insanın kontrol etmediği bir mantık tarafından yönetiliyorsun — kimsenin sürmediği bir makine, ve korkunç bir tutarlılıkla, kendi gücünün yoğunlaşmasına doğru direksiyon kıran.

Ve işte tüm sistemin en sofistike kısmının kendini gösterdiği yer burası — sana neden sonunda herkesin kazanacağının söylendiğini cevaplayan kısım.

Bu boyutta bir yapı zorla hayatta kalamaz. Zor pahalıdır, ve isyan doğurur. Kendini koruyan bir yapının, zordan çok daha fazla ihtiyaç duyduğu şey *meşruiyettir* — içindeki insanlarca beslenen, düzenin doğal, adil, ve nihayetinde kendi yararlarına olduğu inancı. Ve böylece servetin bir kısmı dağıtılır — inancı canlı tutmaya yetecek kadar. Dudağa biraz bal. Cömertlikten değil, ve yine, herhangi bir komplodan değil — ama tebaasına *hiçbir şey* vermeyen bir yapı, devrilen bir yapıdır, ve *tam yetecek kadar* veren bir yapı, kalıcı olan bir yapıdır. Teselli eden cümle — "uzun vadede sen de yararlanacaksın" — bir yalancı tarafından söylenen bir yalan değildir. O, makinenin, içindeki insanları sakin tutmak için çıkardığı sestir. Sistem tarafından, bir bedenin açlık hissini üretmesiyle aynı sebeple üretilir: kimse karar verdiği için değil, onu üreten sistemler hayatta kaldığı, ve kalmayanlar kalmadığı için. Herkesin kazandığı hikâyesi, makinenin bağışıklık sistemidir, ve kötü adamlar tarafından değil, yapının kendi süregelme ihtiyacı tarafından uygulanır.

Bunu bir katman daha derine, sistemi değil seni suça ortak eden kısma kadar takip et, çünkü çaresizlik hakkında bir hikâye, gerçeğin yalnızca yarısıdır.

Bal neden işe yarar? İnsanlar, nesil üstüne nesil, kuşku duymak için her sebepleri olan teselli edici bir hikâyeyi neden kabul eder? Yalnızca iyi anlatıldığı için değil. Çünkü *alternatifiyle yüzleşmekten, ona inanmak daha kolaydır.* "Her şey düzelecek"i kabul etmek, dinlenmeye izinli olmaktır — savaşmayı bırakmak, sorgulamayı bırakmak, kuşkunun yorucu ağırlığını taşımayı bırakmak. Konforlu hikâye bir tür uykudur, ve uyku, yorgunken, sana *yapılan* bir şey değildir. Ona uzandığın bir şeydir. Makinenin hikâyesinin işe yaramasının en derin sebebi, her insanın bir kısmının onun doğru olmasını *istemesidir*, çünkü doğruysa, direnmenin dayanılmaz emeğinden aklanmıştır. Sistem uyku sunar, ve yorgun insan, anlaşılır biçimde, uzanır. Yapının bu kadar az zora ihtiyaç duymasının sebebi budur. Seni aşağı bastırmıyor. Sen, hayal edilebilecek en insani biçimde, gözlerini kapatmayı seçiyorsun — ve makinenin tek işi yastığı yumuşak tutmak.

Şimdi bunu en yeni ve en keskin kenara getir, çünkü tüm bunları daha önce hiç olmadığı bir biçimde harfi harfine gerçek kılan bir teknoloji geliyor.

Tüm tarih boyunca, "kimsenin sürmediği makine" bir mecazdı — yasalardan, piyasalardan, ve teşviklerden yapılmış yapıları tarif etmenin bir yolu. Ama yapay zeka onu gerçek kılmakla tehdit ediyor. Burada, ilk kez, dünyada, ölçekli olarak, yaratıcılarının bile tam kontrol edemediği ve tam öngöremediği bir mantığa göre davranan gerçek bir sistem inşa ediyoruz. Ve örüntü tam olarak bu bütün denemenin izini sürdüğü örüntü, yalnızca şimdi çelik ve kodda. Niyetle inşa ediliyor — kâr, güç, avantaj. O da, kendisinden önceki her yapı gibi, onu inşa eden niyetleri aşacak. Ve aynı yatıştırıcı cümle çoktan onun üzerine söyleniyor: *merak etme, uzun vadede bu herkesin yararına olacak.* Kimin söylediğine bak. Neye sahip olduğuna bak. Yapay zekayla ilgili soru, tam olarak tarihteki her güçlü araçla ilgili sorudur, yalnızca daha yüksek sesle: ne yapabileceği değil, onu kimin kontrol edeceği, ve onu kontrol etmeyen herkese ne yapmasına ihtiyaç duyacağı. Eğer cevap makinenin kendi mantığına — yoğunlaşmaya doğru seçen yapıya — bırakılırsa, o zaman yapay zeka, her yoğunlaşmış gücün yaptığını yapacak, kendisinden önce hiçbir şeyin eşleşemeyeceği bir verimlilikle. Bu sonucu şimdiye dek değiştiren tek şey, yapıyı başka bir tane inşa edecek kadar açıkça gören insanlar oldu.

Ve işte o tek ince umut ipliği, ve onu abartmadan söylemeye değer, çünkü sahte umut yalnızca bir yastık daha. Makineyi kapatacak toplu bir uyanış gelmiyor. Yapı devasa, kendini onaran, ve güç daha da yoğunlaştıkça güçleniyor. Kalabalık ölçeğinde, bal işlemeye devam edecek, ve çoğu insan gözlerini kapalı tutacak, çünkü dinlenmek tatlı ve uyanıklık yorucu. Bu, basitçe doğru. Ama hiçbir şey yapılamayacağı inancı, makinenin en yararlı ürünüdür — o son, kusursuz uyku, ki içinde uyuyan artık kapıyı denemez bile. Ve kapı kilitli değil. Kalabalık için değil, belki hiçbir zaman — ama tek bir insan için, her an, tek bir soruyla açılır, sorulmuş ve canlı tutulmuş: *Bunu kim kontrol ediyor, ve kime hizmet ediyor?* Onu teknolojiye sor, teselli eden cümleye, uluslardan daha değerli olan adamlara, ve içindeki, bilmemeyi tercih eden o yumuşak sese. Onu sorarak dünyayı özgürleştirmeyeceksin. Ama uyanacaksın — ve uyuyan bir makinenin içindeki uyanık bir insan, o yapının hiçbir zaman tümüyle soğuramadığı tek şeydir, ve tarihteki her gerçek değişimin şimdiye dek başladığı tek yerdir.

Makine çalışmaya devam ediyor. Kimse onu sürmüyor, ve tam olarak mantığının işaret ettiği yere direksiyon kırıyor. Ama en baştan içine yazılmış kalıcı bir zayıflığı var: sana uykuda ihtiyaç duyuyor. Ve bu demektir ki, en küçük, en özel reddediş edimi — gözlerini açık tutmak, kimin yararlandığını sormaya devam etmek, balı reddetmek ve gürültünün içinde uyanık kalmak — hiçbir şey değildir sanma. O, makinenin üretemediği, satın alamadığı, ve tüm çalışması boyunca hiçbir zaman tümüyle durduramadığı tek şeydir.