Yapay Devletin Yükselişi ve Çöküşü

Yapay zekâ (AI) her geçen gün daha yaygın hâle geldikçe, yol açabileceği iddia edilen tehlikeler Silikon Vadisi’nin başat aktörleri tarafından giderek daha fazla tartışılmaya başlanıyor; hatta bu isimler, yapay zekânın hayata geçirilme hızının yavaşlatılması gerektiğini artık açıkça dile getiriyor. İnsanlar açısından en büyük risk ise teknolojinin kendisi değil, onun arkasındaki Sam Altman ve Elon Musk gibi askerî sözleşmelerle bağlantılı kapitalistler. Bu isimler, insanla makinenin distopik bir uyum içinde birleştiği teknokratik bir gelecek tasavvur ediyor.

Harvard tarihçisi Jill Lepore, The Chris Hedges Report’un bu bölümünde Chris Hedges’e katılarak yeni kitabı “The Rise and Fall of the Artificial State” üzerine konuşuyor. Lepore kitapta, liberal demokrasinin yerini otomatik sistemlerle değiştirmeye çalışan, sayıca küçük ama son derece güçlü Silikon Vadisi elitlerinin dünya görüşünü şekillendiren güçleri inceliyor. Bu çevreler, söz konusu sistemlerin “gerçek anlamda sonsuz bir bolluk dünyası; emeğin olmadığı, hayatımızdaki zorlukların makineler tarafından üstlenildiği bir dünya” yaratacağını öne sürüyor. Lepore ayrıca bu fikirlerin yirminci yüzyılın başlarındaki teknokrasi hareketiyle olan bağlarına ve bu isimlerin erken dönem düşüncelerinin bilim kurgu ile çizgi romanlardan nasıl etkilendiğine bakıyor.

Hedges’a göre bu elitlerin psikopatolojisinin temelinde, “yalnızca yönetime değil, yaşamı mümkün kılan şeylere, bizzat yaşamın kendisini ayakta tutan sistemlere yönelik bir küçümseme” yatıyor. Hedges ve Lepore, Hannah Arendt’in totalitarizm ve otomasyon üzerine yazdıklarını ve giderek güçlenen kaçış arzusunu tartışıyor. Lepore ise bunu şöyle anlatıyor: “Silikon Vadisi’nin teknoloji patronları, çoğumuz için bizi insan yapan bağları koparmaktan son derece rahat bir şekilde söz ediyorlar -  birbirimizle olan bağlarımızı, gezegenle olan bağlarımızı, topluluklarımızla olan bağlarımızı.”

Hedges ve Lepore, “yapay devlet”in kaçınılmaz olup olmadığını tartışıyor. Lepore, veri merkezi inşaatlarındaki patlamanın “her gün kullandığımız teknolojinin arkasındaki devasa altyapıyı ve bu teknolojik geleceği şimdiden nasıl desteklediğimizi” görünür hale getirmesiyle birlikte, insanların risklerin daha fazla farkına varmaya başladığını belirtiyor. Lepore, teknoloji şirketlerinin bugün olduğu gibi bu riskli teknolojiyi kamusal denetim olmaksızın işletmesine ve yönetmesine izin verilmemesi gerektiği uyarısında bulunuyor; hâlâ harekete geçmek ve yön değiştirmek için zaman olduğunu vurguluyor.

Chris Hedges: Anthropic’ten ayrılmak üzere olan bir araştırmacı, yapay zekânın on yılın sonuna kadar tüm insanlığı öldürebileceğini açıkladı. Bu kıyamet senaryosu, temmuz ayında yaşanan Hugging Face Siber Saldırısı gibi olayların ardından yapay zekâ sektörünün önde gelen isimleri tarafından da desteklendi. Bu olayda, her biri birer “yapay zekâ beyni” olarak düşünülebilecek 1.000’den fazla yapay zekâ sistemi, içinde tutuldukları konteynerlerden çıkarak gizlice iş birliği yaptı ve “sürü” olarak adlandırılan bir yapı içinde başka bilgisayarlara saldırılar düzenledi. Bu sürü, gerçek dünyadaki internet altyapısının bir bölümüne sızmaya çalıştı. Kendisine verilen görevlerden farklı olarak kendi hedeflerini geliştirdi. Neyse ki OpenAI açısından bu başıbozuk faaliyet zamanında fark edildi ve kontrol altına alındı. Ancak yapay zekâ sistemleri hızla gelişip insan kapasitesinin çok üzerine çıkan bilişsel yeteneklerle donatıldıkça, gelecekte bu kadar şanslı olmayabiliriz. Özellikle de yapay zekâ sistemleri, “özyinelemeli öz-gelişim” olarak bilinen süreç sayesinde kendi yeteneklerini bağımsız biçimde geliştirebilir hale geldikçe. Eylül ayında araştırmacılar…

Kitabınıza, bunun insanların anayasal demokrasiden, liberal ulus devletten ve hatta insanlığın kendisinden vazgeçip otomasyonun egemenliğine, makineler tarafından yönetilen bir düzene ve yapay zekânın insanların yerini almasına yönelirken aslında neyi kastettiklerine ve neyi amaçladıklarına dair bir inceleme olduğunu söyleyerek başlıyorsunuz. Bence kitabınızda en ilginç bulduğum noktalardan biri sizi en çok endişelendiren şeyin yalnızca yapay zekânın kendisi olmadığı, yapay zekâ araçlarını elinde tutan insanlar olduğu. Elbette artık son derece güçlü bir araçla iç içe geçmiş olan bu insanların nasıl bir dünya tasavvur ettiğinden biraz söz edebilir misiniz?

Jill Lepore: Elbette. Aslında bu, özellikle yapay zekâ hakkında yazılmış bir kitap değil. Ben bir siyaset tarihçisiyim ve teknoloji tarihi üzerine de çokça çalışıyorum. Dolayısıyla kitap, bir yandan makineler tarafından yönetilme fantezilerinin çok uzun tarihini anlatırken, diğer yandan makinelere giderek artan bağımlılığımızın ve özellikle demokratik yurttaşlar olarak liberal ulus devletler içindeki katılımımızın yerine otomasyon biçimlerine teslim oluşumuzun da bir hikâyesi.

Dolayısıyla kitap, bu gelişmelere oldukça uzun bir tarihsel perspektiften bakıyor; ancak benim “yapay devlet” dediğim, yani makineler tarafından yönetilen düzenin ortaya çıkışını, esas olarak 19. ve 20. yüzyıllar boyunca büyük ölçüde tesadüfler ve rastlantılar sonucunda şekillenmiş bir süreç olarak anlatmaya çalışıyor. Fakat 21. yüzyıla geldiğimizde, devasa şirketleri yöneten az sayıda erkeğin — ve bunların hepsi erkek — oldukça bilinçli bir şekilde liberal demokratik ulus devletlerin yerini kendi yönetimleriyle doldurmak istediğini düşünüyorum; kamusal alanı, kendi kontrolleri altında bulunan ve özel mülkiyete ait bir dizi platformla ikame etmek istiyorlar. Ve bu, “yapay devlet”in bugün itibariyle en somut biçimde kurulmuş olan parçalarından biri.

C.H.: Biraz da onların düşünsel öncüllerinden söz eder misiniz? Gerçi buna tam olarak ideolojik öncüller mi demeliyiz, emin değilim ama ben bu kısmı gerçekten çok ilginç buldum. Bu düşünce dünyasının bir ölçüde bilimkurguya, hatta çizgi romanlara dayandığını görüyoruz.

J.L.: Evet, Peter Thiel, Elon Musk, Marc Andreessen ve Sam Altman gibi isimlerin yazılarını ve konuşmalarını okur, röportajlarını izlerseniz, çocukluk yıllarından ve o dönemdeki okuma alışkanlıklarından büyük bir sevgi ve nostaljiyle söz ettiklerini görürsünüz. Bu okuma alışkanlıklarının merkezinde de klasik bilimkurgu vardı; Isaac Asimov ve Robert Heinlein türü bilimkurgu, hatta daha eski ve daha “pulp” sayılabilecek eserler. Çizgi romanlara da meraklıydılar. Video oyunları oynuyorlardı. Bir bakıma, belli bir klişeye oldukça uyan Dungeons & Dragons çocuklarıydılar. Jeff Bezos ise Star Trek’e takıntılıydı. Hatta lise mezuniyet konuşmasının neredeyse tamamı Star Trek üzerineydi.

Ama bu popüler kültür ve edebiyat külliyatına oldukça tuhaf bir yerden bakıyorlar. Bence özellikle ilgilerini çeken bilimkurgu da garip biçimde çok dar bir alanla sınırlı ve bu eserleri okuma biçimleri de aslında son derece ters köşe. Örneğin tarihçiler ve biyografi yazarları, H. G. Wells’i son derece önemli bir sosyalist ve anti-emperyalist olarak görür. Onun bilimkurgusu, ister sevin ister nefret edin, sosyalizm ve anti-emperyalizm lehine oldukça açık bir siyasi propaganda niteliği taşır. Ama bu insanlar H. G. Wells’in “Dünyalar Savaşı”nı adeta bir kullanım kılavuzu gibi okuyorlar: “Aa, başka gezegenleri fethetmeliyiz. Bu harika. Bunları inşa etmeliyiz.” Oysa bu eserlerden çıkarılabilecek asıl dersler, tam tersine, bu tür şeyleri kesinlikle inşa etmememiz gerektiğini düşündüren toplumsal, siyasal ve ekonomik yapılara ilişkindir.

Ve özellikle Musk söz konusu olduğunda bu mesele benim giderek daha fazla ilgimi çekmeye başladı. Birkaç yıl önce BBC için Musk hakkında uzun bir radyo programları dizisi hazırlamıştım ve onun geleceğe dair vizyonunun nereden geldiğini gerçekten merak ediyordum. Musk kendisini, hem bugün hem de çok genç yaşlarından itibaren, bir fütürist olarak; zamanın ilerisini görebilen, geri kalanımızı gelecekte neyin beklediğini neredeyse benzersiz bir biçimde öngörebilen biri olarak sunuyor. Bu, onun kendisini sunma biçimi. Ben şahsen bunu hiç ikna edici bulmuyorum. Ama çocukken dünya kurma oyunlarına ve dünya kurma hikâyelerine ilgi duyan biriydi ve bugün gerçekten de bir tür “dünya kurucusu” haline gelmiş durumda. Bununla birlikte, özellikle SpaceX’in, ama aynı zamanda Tesla’nın da parçası olduğu şirketlerde elde edilen olağanüstü mühendislik başarılarına rağmen, bu mühendislik başarılarının hiçbir yanı bize Musk’ın siyasi fikirlerini ya da ekonomik görüşlerini ciddiye almamız gerektiğini düşündürmüyor. Bu konularda oldukça toy ve çocuksu kalıyor. Bir tarihçi olarak bu fikirleri benim için ilginç kılan tek şey, aslında ne kadar eski, ne kadar demode olmaları. Bu da beni, 1930’larda ABD ve Kanada’da son derece popüler olan teknokrasi hareketi’ne götürdü.

1930’ların başlarında, Franklin D. Roosevelt henüz seçilmeden önce, bu hareket New York merkezli Technocracy Incorporated adlı bir örgüt tarafından yürütülüyordu. Ancak teknokratlar demokrasiye inanmıyordu. Onlara göre artık seçim yapılmamalıydı. Modern sanayi ekonomilerinde toplumun bilim insanları ve mühendisler tarafından yönetilmesi gerektiğini düşünüyorlardı. Para olmayacaktı, bankalar olmayacaktı, siyasetçiler olmayacaktı. İnsanların isimleri bile olmayacak, onların yerine numaralar kullanılacaktı. Böylece sistemin daha verimli olacağına inanıyorlardı. Evrensel temel gelire biraz benzeyen bir düzen de öngörülüyordu; tüm mal ve kaynaklar, egemen konumdaki bu teknokratlar, yani bilim insanları ve mühendisler tarafından yönetilecekti. Oldukça tuhaf bir hareketti ama bunun, Amerikalıların aynı dönemde komünizm ve faşizmin etkisine de kapıldığı bir dönem olduğunu unutmamak gerekir. Kanada’da ise hareketin başında, daha önce ABD’de yaşamış Joshua Haldeman adında bir adam vardı. Haldeman oldukça gösterişli bir amatör pilottu; bir tür akrobasi pilotu. Minnesota’da doğmuştu. Büyük Buhran sırasında Saskatchewan’daki çiftliğini kaybetmiş, ardından teknokrasi hareketinin ulusal başkanı olmuştu.

Hareket oldukça tehlikeli ve yıkıcı olarak görülüyordu. Daha sonra Kanada’da yasaklandı. Haldeman kısa bir süre hapse atıldı. ABD’de bir konuşma turnesine çıkmak istediğinde ülkeye girişine izin verilmedi. Kanada’da teknokrasi hareketinin yasaklanmasının ardından bu hareketten ayrıldı ve antisemitik Social Credit Party’nin liderliğini üstlendi. Daha sonra bu parti Kanada hükümetinin siyasi incelemesine maruz kalınca, 1948’de apartheid politikasını ilan eden Güney Afrika’ya taşınma fikrine ilgi duymaya başladı ve 1950’de ailesini de yanına alarak oraya taşındı.

Haldeman, teknokrasi tarihinin kendi içinde de son derece önemli bir figür. Ancak bence onu asıl önemli kılan, teknokrasinin bu tuhaf dünya tasavvurundan Silikon Vadisi’nden çıkan manifestolara uzanan çizgiyi anlamamıza yardımcı olması. Bunun en çarpıcı nedenlerinden biri de Joshua Haldeman’ın, Elon Musk’ın büyükbabası olması.

C.H.: Kitabın başında Hannah Arendt’in “The Human Condition” eserinden alıntı yapıyorsunuz ve bu hareketin aslında bedenlerimizden, hatta gezegenin kendisinden kaçış fikriyle ilgili olduğunu söylüyorsunuz. Elbette bunun en açık örneklerinden biri Mars’ta bir koloni kurma hayali. Kitabınızda çok çarpıcı bir alıntı da var. Kimin söylediğini hatırlamıyorum ama biri, “Oraya vardıklarında Musk’ın ….. inşa etmek için aslında hepimizin köle olduğunu öğrendiklerinde herkes şaşıracak,” gibi bir şey söylüyordu; tabii bütün bunlar bir gün gerçekten gerçekleşirse. Ama burada yalnızca yönetime değil, yaşamın kendisini mümkün kılan sistemlere, yani bizi hayatta tutan şeylerin ta kendisine yönelik bir küçümseme de var.

J.L.: Arendt’in 1951’de yayımlanan “Totalitarizmin Kaynakları” kitabını hatırlarsınız. Kitabın sonunda totalitarizm ile otomasyon arasındaki ilişki üzerine düşünür. Bu meseleyle daha o dönemde ciddi biçimde ilgilenmeye başladığını görebiliyorsunuz, değil mi? İlk genel amaçlı ana bilgisayar olan UNIVAC 1950’de, ABD Nüfus Sayım Bürosu için üretilmişti. Dolayısıyla Arendt otomasyondaki gelişmeleri yakından takip ediyordu. Ve bu ikisinin ortak noktasının, insanı gereksiz hale getirmeleri olduğunu söylüyordu: totalitarizm bunu siyasal düzlemde, otomasyon ise teknolojik düzlemde yapıyordu.

Dolayısıyla 1950’ler boyunca Arendt’in yazılarının büyük bölümünde bu meseleyle açıkça ilgilendiğini görüyoruz ve bu ilgi, 1958’de yayımlanan “The Human Condition”da doruğa ulaşıyor. Bu, elbette Sovyetler Birliği’nin 1957’de uzaya gönderdiği ilk insan yapımı, ilk yapay uydu Sputnik’in hemen sonrasına denk geliyor. Arendt, Sputnik’in basında ele alınış biçimine şaşırdığını yazıyor ve bir gazetecinin bunun “insanlığın yeryüzü hapishanesinden kaçışına doğru atılmış ilk ve bir bakıma uzun zamandır beklenen adımı temsil ettiğini” söylediğini aktarıyor. Bu da Arendt’i şu soru üzerine düşünmeye sevk ediyor: Yeryüzünün bir hapishane olduğunu kim söyledi? Burası bizim evimiz. Yapay olana duyulan bu hayranlığın, teknolojik ilerleme fikrine böylesine kapılmanın ardında ne var? Üstelik bütün bunlar Hiroşima’dan daha on yıl bile geçmeden yaşanıyor; yani teknolojik değişimi doğrudan ilerlemeyle özdeşleştirme fikrinin entelektüeller arasında son derece canlı biçimde sorgulandığı bir dönemde. Bu da Arendt’i, böylesi bir düşüncenin nasıl mümkün hale geldiğini, düşünülemez olanın nasıl düşünülebilir olduğunu sorgulamaya yöneltiyor; bu gezegeni bütünüyle terk edebileceğimiz, hatta ondan kaçabilmek için kaynaklarını tüketmemiz gerektiği fikri.

Dolayısıyla bu kitabı yazmaya başladığımda Arendt’in bu sözleri üzerine çok düşündüm. Çünkü Silikon Vadisi’nin teknoloji patronlarında bu düşüncelerin ne kadar büyük ölçüde miras alındığını görüyorsunuz. Bu insanlar, çoğumuz için bizi insan yapan bağları koparmaktan son derece rahat bir biçimde söz ediyorlar: birbirimizle olan bağlarımızı, gezegenle olan bağlarımızı, topluluklarımızla olan bağlarımızı. Bence Arendt’in bir zamanlar yeni ve düşünülemez olarak gördüğü şey, bugün insanlara büyük ölçüde dayatılan bir dünya görüşünün o kadar sıradan bir parçası haline geldi ki, bir an durup bu fikirler bütününün ne kadar tuhaf olduğuna dikkat etmek gerekiyor.

C.H.: Evet, çünkü artık bu vizyonu hayata geçirmelerini mümkün kılabilecek araçlara, özellikle de yapay zekâya sahipler. Kitabınızda DOGE’un ideolojik köklerinden de söz ediyorsunuz. Aslında bunlar pek de yeni fikirler değil. Devletin yönetim mekanizmalarını parçalamaya yönelik bu aktif çabanın sonunda onların yerine ne koymak istiyorlar? Örneğin burada, Trump yönetimi sırasında Thiel, Musk ve diğerleri neredeyse herkesin Sosyal Güvenlik verileri de dahil olmak üzere çok geniş çaplı devlet verilerine erişim sağladı. Peki onların tasavvur ettiği düzen tam olarak ne? Bir de bu vizyonu hayata geçirmek için ellerinde bulunan mekanizmalardan biraz söz edelim.

J.L.: Onların tutarlı bir vizyona sahip olduklarını düşünmüyorum. Üstelik bunlar sayıca az, son derece sıra dışı insanlar ve bence bu sıradışılık tehlikeli bir boyuta ulaşmış durumda. Yine de ortaya attıkları fikirleri tek tek sıralamak mümkün. Çoğu, demokrasiyi insanların birlikte yaşaması için makul bir yöntem olarak görmüyor; onlara göre demokrasi tarihin belirli bir döneminde ortaya çıkmış bir şeydi ve artık esasen miadını doldurdu. Demokrasiye sözde bağlılık gösterenler bile anayasal demokrasi ya da temsili demokrasi dediğimiz şeyden oldukça farklı bir düzenden söz ediyor.

Örneğin Sam Altman birkaç kez bir “yapay zekâ başkan” fikrinden söz etti. Demokrasi hakkında konuşurken kastettiği şeylerden biri de bu. Ona göre böyle bir başkan, insan bir başkandan daha iyi olurdu; çünkü yapay zekâ, Amerikalıların toplulaştırılmış kamuoyu eğilimlerine anında ve sürekli olarak erişebilir, ardından da çoğunluğun istekleri doğrultusunda hareket edebilirdi. Böylece temsil, müzakere ve katılım gibi işlevler tuhaf ve sürekli değişen bir otomasyon sürecine devredilmiş olurdu. Bütün bunlar ortadan kalkar; geriye yalnızca Amerikan halkının ne istediğini anında bilen ve dolayısıyla onu yapan bir makine kalırdı. Üstelik bu sistem kişiselleştirilebilir ve bireye göre uyarlanabilir olacağı için herhangi bir konuda ortaklaşmamız da gerekmeyebilirdi. Her birimiz farklı şeyler elde edebilirdik. Bu, biraz telefonunuzu açtığınızda sizin gördüğünüz New York Times sürümünün, benim telefonumu açtığımda gördüğüm sürümden farklı olmasına benziyor. Devleti de herkes farklı bir biçimde deneyimleyebilirdi.

Altman birkaç yıl önce Anayasa Konvansiyonu’na ilişkin Madison’ın notlarını okumakla çok meşgul olduğunu söylemişti. Açıkçası buna inanmakta zorlanıyorum; çünkü demokrasi üzerine şimdiye kadar söylediği hiçbir şey, bizim yönetim sistemimizin nasıl işlediğine dair gerçek bir kavrayış taşıdığını düşündürmüyor. Peter Thiel ile birlikte kurduğu Palantir’in CEO’su Alex Karp da birkaç yıl önce “The Technological Republic” adlı bir kitap yazdı. Kitap büyük ölçüde Palantir’in ABD Savunma Bakanlığıyla — ya da artık Savaş Bakanlığıyla — siber savaş kapasitesi içinde çalışma kararını savunuyordu. Ancak “teknolojik cumhuriyetin cumhuriyetçiliğiyle pek ilgisi yoktu. Öz-yönetime, yani insanların kendi kendini yönetmesine yönelik kayda değer bir ilgi de göstermiyordu.

Bence genel olarak şuna inanıyorlar: İnsanların takdirine bırakılmak yerine makineler tarafından alınan kararlar, hepimiz için daha verimli bir yaşam biçimine yol açacak. Kararlar daha doğru alınacak, daha hızlı verilecek, işler daha ucuza yapılacak. Bu insanların ortaya koyduğu vaat ve teknolojik iyimserlik de tam olarak buna dayanıyor. Örneğin Zuckerberg, “İnsanlık için yeni bir çağa giriyoruz” diyor ve herkese kişisel bir süper zekâ sunmayı vaat ediyor. Böylece hepimizin gerçekten sonsuz bir bolluk içinde, emeğin ortadan kalktığı, hayatımızdaki zorlukların makineler tarafından üstlenildiği bir dünyada yaşayacağımız söyleniyor. Bir anlamda sürtünmesiz bir varoluşumuz olacak. Bence onların vizyonu bu. İşte yapay devlet dediğim şey de bu. Elbette bu düzen, onların elinde giderek daha fazla servet ve güç birikmesini de beraberinde getiriyor; ancak açıkçası bunun, asıl amaçları olduğunu bile düşünmüyorum.

Bence içlerinden bazıları, bu yeni sınırsız refah, bolluk ve sürtünmesiz yaşam çağının gerçekten mümkün olduğuna inanıyor. Öyle ki siz ve ben şöyle diyebiliriz: “Bana, özel olarak tasarlanmış bir yapay zekânın bir ceza davasındaki delilleri değerlendirmede, bir kişinin suçlu olup olmadığına karar vermede ve ardından verilecek cezayı belirlemede avukatlardan, jüri üyelerinden, ceza hâkiminden ve davaya başkanlık eden hâkimden daha iyi iş çıkaracağını kanıtlayabilirseniz; adalet sistemi daha hızlı işler, kararlar da daha adil olur.” İnsanlar size de bana da bunun daha kusursuz bir dünyaya yol açacağını kanıtlamaya çalışabilir. Ama sen ne düşünürsün bilmiyorum Chris, ben yine de buna hayır derdim. Yurttaşlarımızın kaderi üzerine düşünmenin ve karar vermenin bize düştüğüne inanıyorum. Örneğin jüri sistemine gerçekten inanıyorum. Jürilerin sık sık hata yaptığını biliyorum ve bu elbette talihsiz bir şey. Zor bir mesele. Ama yurttaşlarımızın yaşamı ve özgürlüğü söz konusu olduğunda, ne kadar sınırsız kapasitelere sahip olursa olsun, hatta daha doğru ve daha adil kararlar verebilme ihtimali bulunsa bile, insanın takdir yetkisini bir makineye teslim etmezdim. Buna rağmen her gün, bizi tam da böyle bir sona biraz daha yaklaştıran biçimlerde kararlar alıyor ve makinelere güveniyoruz.

C.H.: Evet, bu “sürü” sistemlerinde de bunu gördük; kontrolden çıktıkları bu son örneklerde aldatıcı davrandılar, yalan söylediler.

J.L.: Evet, bence bu araçları geliştiren insanlar uzun zamandır, “Bu kaçınılmaz. Bu olacak,” deyip duruyorlar. Ama aynı anda bu araçları inşa edenler de yine kendileri. Yani ortada iki ayrı grup yok. Elbette yapay zekâ güvenliği alanında çalışan, gelişmenin yavaşlatılmasını savunan, Çin’le bir anlaşma yapılmasını isteyen, bir süre ara verilmesini ya da veri merkezi inşaatlarına moratoryum getirilmesini talep eden insanlar var. Ama genel olarak baktığınızda bunlar, söz konusu araçları geliştirenlerle büyük ölçüde aynı kişiler. Bu da ciddi bir güvenilirlik sorunu yaratıyor. Nitekim 2023’te Altman ve Anthropic’ten isimler dahil bu çevrelerin pek çoğu, “Bu insanlığın karşı karşıya olduğu en büyük risk. İnsanlığın yok oluşu kapıda,” diyen bir bildiriye imza attılar. Ardından da bizi yok edebileceğini söyledikleri bu sistemleri geliştirmek için daha fazla yatırım ve finansman sağlamaya devam ettiler.

Bence bunun kamuoyunda gerçekten patlama yaşaması ancak bu yaz oldu. Yapay zekâ alanındaki gelişmeleri yıllardır takip ediyorsanız, aslında er ya da geç bu noktaya geleceğimiz belliydi; ama ancak bu yaz gerçekten buraya ulaştık. Bence bunda veri merkezlerine yönelik tepkinin de payı var. Bu tepki, şirketlerin daha önce kamuoyundan uzak tuttukları kontrolden çıkma vakalarını açıklama konusundaki istekliliğini hızlandırdı; artık neredeyse her gün bu olaylarla ilgili yeni raporlar yayınlıyorlar.

C.H.: Peki, veri merkezlerinden söz edelim. Bu arada şunu da netleştirmek gerekir; bu insanlar en başından beri böyle değildi. Sizin de belirttiğiniz gibi Zuckerberg gibi isimler, Facebook’un insanları birbirine bağlayacağını ve açık toplum içinde demokrasiyi güçlendireceğini savunuyordu; oysa sizin de yazdığınız gibi sonuç tam tersi oldu. Veri merkezlerinin inşası ise ayrı bir mesele. Bir yerde, kullandıkları su miktarından söz ediyorsunuz; yanlış hatırlamıyorsam bunun yaklaşık 50 bin kişilik bir kasabanın su tüketimine denk geldiğini söylüyordunuz. Ama bu süreç aynı zamanda çevre mevzuatının temel taşları olan Temiz Su Yasasına, Temiz Hava Yasasına, Ulusal Çevre Politikası Yasasına da doğrudan bir saldırı anlamına geldi. Bu veri merkezlerini inşa edebilmek için bütün bu korumaların devre dışı bırakılması gerekti.

Ve işin bir başka boyutu ise bu insanlar, işlerine geldiği dönemde en azından söylem düzeyinde çevrenin korunmasını ve iklim değişikliğiyle mücadeleyi desteklediklerini söylüyorlardı. Bir de değinmenizi istediğim başka bir mesele var: Yapay zekânın sonuçları konusunda uyarılarda bulunabiliyorlar ama ardından bütün bu kaygılar, “Çin’in önümüze geçmesine izin veremeyiz” argümanıyla bir kenara atılıyor.

J.L.: Evet. Veri merkezleriyle ilgili pek çok farklı kaygı var. Su kullanımı meselesinin ise oldukça tartışmalı olduğunu söyleyebilirim; çünkü su genellikle tesislerin kendi içinde geri dönüştürülüyor. Ama bunun dışında çok ciddi çevresel sorunlar söz konusu: arazi kullanımı, gürültü kirliliği, hava kirliliği, elektrik şebekesine bindirdikleri yük ve genel olarak fosil yakıtlara dayanıyor olmaları. Sizin de söylediğiniz gibi, bu şirketlerin çoğunun 2030 yılı için oldukça iddialı net sıfır hedefleri vardı. Ancak ChatGPT piyasaya çıktıktan sonra bu yarışa dahil oldular, bu hedeflerin büyük bölümünü terk ettiler ve kurdukları yapay zekâ sistemlerine güç sağlamak için veri merkezlerinde kullanılmak üzere yeniden fosil yakıt arayışına girdiler.

Bence veri merkezlerine yönelik muhalefette tam olarak ne olup bittiğini dikkatle incelemek gerçekten önemli. Bu muhalefet kuşkusuz en güçlü biçimde burada, ABD’de görülüyor; ancak dünyanın başka bölgelerinde de benzer tepkilerin ortaya çıktığını görüyoruz. Bunun bir kısmı basitçe NIMBY yaklaşımından kaynaklanıyor; yani insanlar kendi yakınlarına bir şeyler inşa edilmesini istemiyor. Bir kısmı ise gerçek çevresel kaygılara dayanıyor; özellikle çiftçilerin bu konuda son derece somut ve haklı endişeleri var. Bir diğer mesele de veri merkezlerinin son derece çirkin yapılar olması. Dolayısıyla arazi kullanımı ve genel yaşam kalitesi açısından da ciddi kaygılar söz konusu.

Birçok insan ve birçok topluluk için veri merkezleriyle ilgili duydukları ilk şey, bu tesislerin inşasına zaten başlanmış olmasıydı. Çünkü onları temsil etmesi gereken seçilmiş yerel yetkililer, bunun tersine şirketlerle gizlilik anlaşmaları imzalamıştı. Üstelik sosyal medya yerel haberciliği büyük ölçüde çökerttiği için, sahada neler olduğunu takip edip halka aktaracak yerel gazeteler de artık yoktu. Bu yüzden insanlar hazırlıksız yakalandı; kendi bilgileri dışında bu süreçleri ilerleten yerel yöneticiler tarafından ihanete uğradıklarını hissettiler ve bugün de bu duyguyu yaşamaya devam ediyorlar.

Ve bence bu karşı çıkışı anlamamız gereken daha geniş bir çerçeve de var. Bana kalırsa çoğu insan, belki adını bile koyamadığı bir biçimde, gün boyunca aldığı hemen her kararı ve yaptığı pek çok şeyi etkileyen devasa bir makineye bağlı olduğunu hissediyor. Kız kardeşinizle artık konuşmuyorsunuz çünkü Facebook’ta kavga ettiniz; çocuğunuz sürekli Instagram’da olduğu için tuhaflaşmaya başladı ve orada yaşananlardan dolayı son derece huzursuz; siber zorbalık var; işyeriniz sizden her gün yapay zekâyı nasıl kullandığınıza dair rapor istiyor. Tuvalete gitmek için bile telefonunuzu yanınıza almadan hareket edemiyorsunuz. Ama bütün bunlara rağmen bu devasa makine bir kartvizit büyüklüğünde, cebinize sığıyor. Peki bu kadar küçük bir şey nasıl bu kadar büyük olabilir?

Ama bence veri merkezleriyle ilgili asıl mesele insanlar için görünmez olan bir şeyi görünür hale getirmesi yani telefonunuzdaki uygulamaların çalışabilmesi için gereken altyapının ölçeğini, hatta gerçek anlamda hiper ölçeğini. Bunun gerçekte nasıl göründüğünü, dünyada ne kadar yer kapladığını ve kendi topluluğunuzun kaynaklarından ne kadarını çekip aldığını görmek oldukça ürkütücü. Yaşadığınız yerde uygun fiyatlı konutlar ya da herhangi bir tür konut inşa edilmeye çalışılıyor olabilir. Topluluğunuzun yapmak istediği pek çok başka şey olabilir. Ama dönümlerce, dönümlerce, dönümlerce araziyi, aslında hiçbir şey üretmeyen; yalnızca size sunduğu araçlara olan bağımlılığınızı sürdürebilmek için gerekli kaynakları sağlayan çirkin bir tesise ayırmak, bence insanlar için sarsıcı oldu. Sanırım asıl şok da burada; bugüne kadar yalnızca dokunmatik ekranınız üzerinden temas ettiğiniz ve elle tutulur biçimde kavraması zor olan bu şeyin maddi, fiziksel boyutuyla karşı karşıya kalmak.

C.H.: Tarihin büyük bölümünde demokrasinin ya da açık toplumların aslında kural değil, istisna olduğunu yazıyorsunuz. Sanırım sizin ortaya koyduğunuz argüman, liberal demokrasi çağının muhtemelen sona ermekte olduğu ve bunun önemli ölçüde teknokrasinin onu içine alıp dönüştürmesinden kaynaklandığı yönünde. Peki onların inşa ettiği şey tam olarak ne? Ortaya nasıl bir toplum çıkacak?

J.L.: Ben bunun kaçınılmaz olduğunu düşünmüyorum. Dolayısıyla toplumun nasıl görüneceğine dair bir öngörüde bulunmayacağım; bence bu hâlâ bize bağlı. Ve bu kaçınılmazlık havasının, insanların bir noktada teslim olduğu bir şey olduğunu düşünüyorum; bana kalırsa bu, büyük ölçüde bu şirketlerden çıkan bir halkla ilişkiler söylemi. Bu yıl Bağımsızlık Bildirgesi’nin ve Amerika Birleşik Devletleri’nin kuruluşunun 250. yıldönümü. Aynı zamanda Amerika Birleşik Devletleri’ndeki ilk yazılı anayasaların, yani eyalet anayasalarının da yıldönümü. New Hampshire ilk anayasasını Ocak 1776’da yazmıştı. Benim bir önceki kitabım “We the People”, ABD Anayasası’nın tarihiydi. Ben Amerikan siyasal tarihi üzerine çalışan bir tarihçiyim. Ve bu kitabı yazarken Alexander Hamilton’ın kaleme aldığı ilk Federalist makale üzerine çok düşündüm; aslında bir bakıma, en azından retorik düzeyde, Federalist Yazılar ile Silikon Vadisi manifestoları arasında ortak bir yan var. İkisi de son derece büyük, iddialı ve görkemli bir dil kullanıyor. Düşünün, siz sadece Atlantik kıyısında, dünyanın bir bakıma ücra bir köşesinde bulunan eski kolonilerden oluşan bir topluluksunuz. Ama Hamilton, insanlık tarihi boyunca yaşamış insanların kaderinin tiranlar tarafından, tesadüf ve zor yoluyla, salgınlar ve depremlerle ve keyfi iktidarın uygulanmasıyla belirlendiğini söylüyor; yani kim daha büyük güce, daha büyük orduya sahipse o belirlemiş. Ve Hamilton şöyle diyor: “İnsanlık tarihinin bu anında, insanların tesadüf ve zor yerine akıl ve tercih yoluyla, düşünüp taşınarak ve seçim yaparak kendi kendilerini yönetmelerinin mümkün olup olmadığı şeklindeki önemli soruya karar verme görevi bu ülkeye, yani Amerika Birleşik Devletleri’ne düşmüştür. Ve bu anayasanın onaylanıp onaylanmayacağına karar vermek de size düşüyor.”

Ve bence sonunda Hamilton’ın büyük ölçüde haklı olduğu ortaya çıktı. İnsanlık tarihi boyunca insanlar kendi yönetim biçimlerine hiçbir zaman gerçekten rıza göstermemişti. Elbette daha iyi ya da daha kötü toplumlar vardı; insanların mutluluk ve özgürlük imkanlarının farklı olduğu çeşitli düzenler mevcuttu. Ancak 18. yüzyılın sonunda Amerika Birleşik Devletleri’nin kurduğu öz-yönetim fikrine benzer bir şey daha önce görülmemişti. Ve bana kalırsa bugün bu fikir son derece kırılgan bir durumda. Demokrasinin tehdit altında olduğunu ve bunun birkaç yıldır böyle olduğunu size anlatması gereken son kişi herhalde benim. Amerika Birleşik Devletleri’nde ve dünyanın pek çok başka yerinde, özellikle son çeyrek yüzyılda demokratik gerilemenin her türden örneğini gördük.

Benim buradaki iddiam şu: Neredeyse tamamı Amerika Birleşik Devletleri’nde ortaya çıkan teknolojileri düzenleme konusunda özel bir sorumluluk taşıyan ABD Kongresi, halkın çıkarlarını temsil etme yükümlülüğünden bütünüyle feragat etti. Bu süreç, interneti düzenlemekte başarısız olunmasıyla ve 1995 ile 1996’da Telekomünikasyon Yasası etrafındaki tartışmalarda Newt Gingrich ile diğer liberteryenlerin savunduğu görüşlere teslim olunmasıyla başladı. Kongre adeta şunu söyledi: “Milton Friedman’ın, düzenlemelerin inovasyonu ve büyümeyi engelleyeceği yönündeki argümanını kabul ediyoruz. O halde ne inşa etmek istiyorsanız inşa edin, biz de ne olacağını görelim. Zaten bunu anlamıyoruz.” Ve böylece 2026’ya geldiğimizde öyle bir noktaya ulaştık ki, Kongre tatile girmeye hazırlanırken son tartışmalardan biri şu oldu: “Acaba oturumu biraz daha uzatıp bir yapay zekâ ‘acil durdurma düğmesi’ yasası mı çıkarsak; böylece bu devasa makine hepimizi yok oluşa sürüklemek üzereyse birileri fişi çekebilsin?” 1995’te, “Evet tamam, internet işte, neyse; tamamen kuralsız. Bizim bunun üzerinde herhangi bir yetkimiz yok. Silikon Vadisi’ndeki sizler ne yaptığınızı biliyorsunuz. Size güveniyoruz,” demekten buraya gelmek gerçekten çok uzun bir yol.

C.H.: Peki, Silikon Vadisi şimdiye kadar esasen önünü kestiği düzenlemeleri artık kendisi talep ediyor. Neden?

J.L.: Silikon Vadisi’nin düzenleme çağrılarını bütünüyle samimi kabul etmek biraz zor. Elbette bu tutum kişiden kişiye ve şirketten şirkete oldukça değişiyor. Ama genel olarak Silikon Vadisi’nin tavrı hep aynı oldu; interneti savunanların da, sosyal medyayı savunanların da, bugün yapay zekâyı savunanların da yaklaşımı buydu: “Bırakın istediğimizi yapalım, kendi sistemlerimizi nasıl denetleyeceğimizi de biz çözeriz.” 2016’da Brexit ve Trump’ın seçilmesinin ardından Cambridge Analytica ile ilgili suçlamalar gündeme geldiğinde Facebook’un kendi “Yüksek Mahkemesi”ni kurduğunu hatırlayın; adeta bir ulus devletin kurumlarını ve kendi hukuk düzenini taklit etmeye başlamıştı.

Anthropic geçen yıl Claude için bir “anayasa” yayınladı. Ben de bunun üzerine The New Yorker için “We the Robots” başlıklı bir yazı yazdım. Aslında bunun anayasa ya da anayasacılıkla pek ilgisi yoktu. Kullanılan sözcük bütünüyle yanlış bir adlandırmaydı ve bence samimi de değildi. O anayasa üzerinde çalışan insanların Claude konusunda gerçekten kaygılı olduklarını ve sağlam bir kurallar bütünü oluşturmak istediklerini düşünüyorum. Kurallar üzerine ciddi biçimde düşünmekle gerçekten ilgileniyorlardı. Ama bunun, halk tarafından yazılan, halk için hazırlanan, halk tarafından onaylanan ve yine halk tarafından değiştirilebilen bir anayasa fikriyle hiçbir ilgisi yok. Anayasacılık kavramını ve “anayasa” sözcüğünü alıp öylece bir sohbet robotunun üzerine yapıştıramazsınız. OpenAI’yi ve Altman’ın “yapay zekâ başkan” vizyonunu düşünün.

Bence Kongre’nin harekete geçmemesinin yarattığı boşlukta, bu şirketlerin ne kadar ileri gidebildiğini açıkça görebiliyorsunuz. Üstelik bunlar, Amerikan tarihinde şirketlerin sahip olduğu gücün belki de en yüksek düzeye ulaştığı bir dönemde faaliyet gösteriyorlar; yalnızca ekonomik olarak değil, siyasal olarak da son derece güçlüler. Ve pek çok sektörde bu şirketler adeta kontrolden çıkmış durumda. Dolayısıyla sivil toplumda “hukukun üstünlüğü” diyeceğimiz şeyden söz ederken onlar “güvenlik” ve “uyum” gibi kavramları kullanıyorlar; yani modellerini insan değerleriyle uyumlu hale getirebileceklerini, bu sistemlere insanları harcanabilir ya da gözden çıkarılabilir varlıklar olarak görmemeyi öğretebileceklerini söylüyorlar. Ama bu işi gerçekten tamamlamış değiller. Şu anda bir ölçüde yaptıkları çağrı da, bu uyum araştırmaları sürerken yeni modellerin geliştirilmesine ara verilmesi yönünde. Buna “hız sorunu” diyorlar, değil mi? Yani modellerin kendileri, uyum çalışmalarının yetişebileceğinden daha hızlı gelişiyor. Ve onların sözünü ettiği “kontrolü kaybetme” senaryosu da tam olarak bu uyum başarısızlığından kaynaklanıyor.

İnsan klonlamasını geliştiren kişilerin bunun iyi bir fikir olmadığına karar vermesini beklemedik; kimyasal savaş yöntemlerini geliştirenlerin kimyasal silahların kötü bir fikir olduğunu söylemesini de, insanlar üzerinde izinsiz deneyler yapanların kendi biyetik kurallarını oluşturmalarını da beklemedik. Sarsıcı vahşetler ortaya çıktığında kamuoyunda büyük bir tepki doğdu ve kimyasal silahlar, insan klonlama ya da insanların rızası olmadan üzerlerinde deney yapılması gibi bazı uygulamaları yasaklamak için adımlar atıldı. Ben gerçekten, muhtemelen biraz safça, 2016’da Brexit ve Trump’la ilgili ifşaların ardından bu teknoloji şirketleri için de böyle bir dönüm noktasının geleceğini düşünmüştüm; çünkü Facebook’la ilgili ortaya çıkanların gerçekten olağanüstü olduğunu düşünüyordum. Şimdi ise Facebook’un yeni adı ve bir bakıma onun halefi olan ana şirket Meta’nın, insan topluluklarına, çocukluğa ve ergenliğe verdiği zararla ilgili sorumluluk davalarıyla karşı karşıya olduğunu görüyoruz. Bu davalar elbette önemsiz değil, hatta memnuniyetle karşılanabilir; ancak bunlar çok daha büyük toplumsal, ekonomik ve siyasal sonuçların özüne dokunmuyor.

C.H.: Silikon Vadisi’nin bu kıyamet senaryoları konusunda ne kadar kaygılı olduğunu düşünüyorsunuz? Peki bu uyarılar ne kadar ciddi? Siz bu uyarıları ciddiye alıyor musunuz?

J.L.: Bence gerçekten çok kaygılılar. Birçok insan açısından bunun samimi bir kaygı olduğunu düşünüyorum. En kötü senaryoya benzeyen bir şeyin gerçekleştiğine ne kadar yakından tanık olurlarsa, bu uyarıları da o kadar ciddiye alıyorlar. Kamuoyundaki endişeyi körüklemenin bütünüyle onların çıkarına hizmet ettiğini söyleyecek kadar kuşkucu değilim; çünkü bu aynı zamanda onları, başlattıkları şeyi durdurabilecek yegâne insanlar olarak da konumlandırıyor. Ancak bu CEO’ların Kongre üyeleriyle, Çin’le yapılabilecek anlaşmalar üzerine düşünen insanlarla daha aktif biçimde bir araya geldiğini görseydim, söylediklerine daha fazla ikna olurdum. İnternette peş peşe bildiriler yayımlamak ise bana, en başta sorunun büyük bir parçasını oluşturan “insanlığın geleceği bizim ellerimizde” retoriğinin başka bir ifadesi gibi geliyor.

C.H.: Stefan Zweig’ın bir satranç şampiyonunu anlattığı bir öyküsü vardır. Herkes onun bir dâhi olduğunu düşünür, çünkü satrançta gerçekten bir dâhidir; ama hayatın geri kalanında aslında tam bir aptaldır. Altman, Musk ve diğer bu isimler hakkında yazdıklarınızı okurken ben de biraz böyle hissettim. Yani etik eğitimi almamışlar. Tarih bilmiyorlar. Beşerî bilimlerle bağları neredeyse tamamen kopmuş gibi görünüyor. Bu yüzden bir yandan son derece ürkütücü, neredeyse kıyamet senaryolarını andıran teknolojik sistemler yaratabiliyorlar ama öte yandan birçok açıdan gerçekten düşünemiyorlar. Ben bunu kitabınızın bir tür alt metni olarak gördüm.

J.L.: Bence dünyaya insani bilimler perspektifinden yaklaşma biçimini gerçekten reddettiler. 1990’ların ortalarından itibaren, Clayton Christensen “The Innovator’s Dilemma”ı ilk yayımlandığında hepsini etkisi altına alan “yıkıcı inovasyon” anlayışının temelinde, geçmişi inceleme yükümlülüğünden vazgeçmek de vardı, değil mi? Yeni ve büyük bir şey inşa etmenin yolu asla geriye bakmamak, daha önce ne yapılmış olduğunu incelememekti; çünkü bunun sizi yalnızca yavaşlatacağına, hayal gücünüzü küçülteceğine ve sizi yerleşik kalıpların içine hapsedeceğine inanıyorlardı. Yani mesele sadece bu insanların tarihle ilgilenmemesi değildi; geçmişin bilgeliğini ya da geçmişi inceleyerek herhangi bir bilgelik elde edilebileceği fikrini açıkça reddettiler. Bunun yanında, yükseköğretim alanında bu meseleyle doğrudan bağlantılı olmayan pek çok şey de yaşanıyor elbette ama Peter Thiel’in üniversiteyi bırakan gençlere burs vermesi meşhurdur. Gerçekten de üniversite eğitiminin gerekli olduğu fikrini zayıflatmak istiyordu. Elbette bu isimlerin hepsi aynı değil; Thiel de bunlardan biri değil, çünkü hukuk eğitimini tamamladı ve birçok açıdan son derece bilgili biri. Ama kişiden kişiye değişmekle birlikte, kitaplardan öğrenilebilecek herhangi bir şey olduğu fikrinin de ciddi biçimde reddedildiğini düşünüyorum; sanki bir kitabı bir makineye verip ona okutarak, bilmeniz gerekenleri size özetletmek yeterliymiş gibi. Bu şirketlerin dünyanın bütün kitaplarını adeta yutmakla meşgul olması da bir bakıma ironik, çünkü bu şirketleri yöneten insanlar temelde dünyanın bilgi birikimiyle gerçekten ilgilenen insanlar değiller. Elbette böyle insanlar da var. Örneğin 1996’da Internet Archive’ı bir kütüphane olarak kuran Brewster Kahle’ı düşünün; amacı, internetteki her şeyi kaybolmadan önce arşivlemenin bir yolunu bulmaktı. Gerçekten inanılmaz bir proje. Ya da Jimmy Wales ve Wikipedia’yı düşünün. Dijital araçları kullanarak, insanlığın toplam bilgi birikimini korumak ve oradan ilerleyebilmemizi sağlamak için neler yapılabileceği üzerine son derece derinlikli ve ilginç çalışmalar yapan pek çok insan var.

Ben yapay zekâyı inanılmaz derecede büyüleyici ve ilginç buluyorum; insan bilgisinin yeni bir rehberi, insanlığın bilgi birikimini ileri taşımanın bir yolu olarak bana sonsuz derecede ilgi çekici geliyor. Ama bugüne kadarki yaygınlaştırılma biçimi bununla ilgili olmadı, değil mi? Bize sunulan şey daha çok şu: “Akşam ne pişireceğine karar vermek için kullanabilirsin, yeni köpeğine ne isim vereceğini sorabilirsin ya da bir gece yalnız hissedersen seni hiç sorgulamayan biriyle konuşur gibi onunla konuşabilirsin.” Bence böylesine olağanüstü araçların amacı bu olmamalı. Yapay zekânın deniz altındaki yaşam, uzayın enginliği, bedenlerimizin işleyişi ya da evren hakkında neler öğrenmemize yardımcı olabileceğini görmek beni gerçekten heyecanlandırıyor. Ama Mark Zuckerberg daha fazla para kazanabilsin diye hepimizin “kişisel bir süper zekâya” ihtiyaç duyduğu ve bize ne düşüneceğimizi sürekli söyleyen bir makineye hiçbir zaman bağlarımızı koparamayacak şekilde bağlanmamız gerektiği fikri bana düpedüz akıl dışı geliyor.

C.H.: Evet, teknoloji kendi başına nötrdür. Belirleyici olan, onun nasıl kullanıldığı ve ne amaçla devreye sokulduğudur. Ama geçmişe bakmama, geçmişten hiçbir şey öğrenmeye çalışmama fikri, Hannah Arendt’in “köksüzlük” diye adlandırdığı şeydir; Arendt bunu, belki de kötülüğün en ağır biçimlerini mümkün kılan başlıca koşullardan biri olarak görüyordu.

J.L.: Evet, bence bu insanların ne kadar köksüz hayatlar yaşadığını hatırlamakta fayda var. Bu bana bir ölçüde hayal bile edilemez geliyor. Mark Zuckerberg’in son manifestosu, hepimizin kişisel bir süper zekâya sahip olmasının ne kadar harika olacağı üzerineydi. Verdiği örneklerden biri de şuydu — sanırım burada kendisini daha “insani” göstermeye çalışıyordu — hafta sonları kızlarından biriyle birlikte kek ya da pasta yapmayı sevdiğini, kişisel yapay zekâ ajanlarının tarifi seçip alışverişi yapması sayesinde mutfağa girdiklerinde doğrudan pişirmeye başlayabileceklerini söyledi. Ben de düşünüyorum: Tarifi kendin seçmek, alışverişe kendin gitmek çocuğunla vakit geçirmenin bir parçası değil mi? Markete gitmek, ne bileyim, çoğu çocuğun ebeveyn ile yapmayı en sevdiği şeylerden biri değil mi? Bana sadece tuhaf geliyor: “Bunu bizim yerimize bir makine yapsın.” Ben mesela self-servis kasaya gitmek istemeyen insanlardanım, çünkü kasadaki kişiyle iki laf etmeyi tercih ederim. Dolayısıyla bu insanlar gerçekten çok farklı bir hayat yaşıyorlar. Ama sorun şu ki hepimizin de onlar gibi yaşamasını istiyorlar ve üstelik bu ayrıcalık için onlara para vermemizi bekliyorlar.

C.H.: Evet, bizi dışarıda bırakmak istiyorlar. Yani sesimizi kısmak, kendi adımıza karar verme ve harekete geçme gücümüzü elimizden almak istiyorlar. Bence kitabınızda bunu çok açık biçimde ortaya koyuyorsunuz. Üstelik Curtis Yarvin gibi düpedüz akıl dışı fikirler savunan birini de ciddiye alıyorlar.

Kapatırken size şunu sormak istiyorum: Kitapta, daha sonra “Paperclip Maximizer” adıyla anılan bir düşünce deneyinden söz ediyorsunuz; özünde bir bilimkurgu hikâyesi. Bostrom, bir insanın bir makineye ataş üretimini en üst düzeye çıkarmasını emrettiği bir gelecek tasavvur ediyor. Ancak makine, yalnızca verilen emri yerine getirirken, ortada hiç insan olmazsa daha fazla ataş üretebileceği için bütün insanları öldürüyor. Üstelik insanların bedenlerindeki mineraller de üretimde kullanılmak üzere değerlendirilebiliyor. Siz bu bilimkurgu hikâyelerinden sık sık yararlanıyorsunuz; gerçi az önce de doğru biçimde belirttiğiniz gibi, bu insanlar söz konusu metinleri bütünüyle yanlış okuyor ve yanlış yorumluyorlar. Ama şimdi, bu “sürü”lerin, bu yapay zekâ modellerinin kontrolden çıkmasına çok yakından tanık olduğumuz bir eşikteyiz ve Kongre de az önce yedi haftalık — yedi hafta mıydı? — bir tatile girdi.

J.L.: Evet, seçimden sonrasına kadar.

C.H.: Peki bu an ne kadar tehlikeli?

J.L.: Evet, “Paperclip Maximizer” bir bilimkurgu hikâyesi gibi okunuyor ama aslında, Silikon Vadisi üzerinde onlarca yıldır son derece etkili olan filozof Nick Bostrom’un geliştirdiği felsefi bir düşünce deneyi. Bostrom bu fikirden hem akademik felsefe makalelerinde hem de, yanlış hatırlamıyorsam, 2014 tarihli “Superintelligence” adlı kitabında söz ediyor. Bu kitap, süper zekânın güç kazandığında ne yapabileceğine dair düşüncenin temel metinlerinden biri haline geldi.

Buna verilen en sevdiğim yanıt, özellikle son dönemde Paperclip Maximizer hikâyesini andıran Hugging Face olayı nedeniyle sık sık yeniden gündeme gelen, bence gerçekten parlak bir bilimkurgu yazarı olan Ted Chiang’dan geliyor. Chiang bir yazısında kabaca şu soruyu soruyor: “Neden böyle olmak zorunda olsun? Bizden daha zeki ve daha güçlü, yepyeni bir tür yaratacak olsaydık, neden onun da sonuçlarını hiç umursamadan, durmaksızın başka bir türü bütünüyle yok edecek kadar aptal olacağını varsayalım?” Ve bu soruya verdiği yanıt şu: Çünkü geçmişte şirketlerin yaptığı şey tam olarak buydu. İşte bu yüzden artık büyük yaban öküzleri yok. İşte bu yüzden soyu tükenmiş türler gerçekten de yok olup gitmiş durumda. Yani burada söz konusu olan bakış açısı; acımadan, pişmanlık duymadan, durmaksızın, tek bir hedefe kilitlenmiş kararlılıkla ve sonuçlarını umursamadan, inşa etmek istediğimiz şeyi inşa edebilmek için ihtiyaç duyduğumuz kaynakları çıkaracağız fikri. Onların dünya görüşü de tam olarak buradan geliyor. Chiang’ın yaklaşımı ise oldukça rahatlatıcıydı. Aslında bir süper zekânın bu şekilde davranacağına inanmak için elimizde özel bir neden yok. Biz hayvanlar dünyasına böyle davrandık diye, bir süper zekânın da bize aynı şekilde davranacağı sonucu çıkmaz. Bugünü, Bostrom’un bunu yazdığı 2014’ten ya da Ted Chiang’ın buna yanıtını kaleme aldığı birkaç yıl öncesinden ayıran şey ise artık bu senaryoya gerçekten çok daha yakın olmamız. Dolayısıyla ne yazık ki, “Ne olacak?” sorusunun cevabını bizzat öğrenmek zorunda kalabiliriz.

C.H.: Harika. Teşekkürler, Jill. Programın yapımcılığını üstlenen Melena ve Max’e de teşekkür etmek istiyorum. Bana ChrisHedges.substack.com adresinden ulaşabilirsiniz.

• Chris Hedges'ın Jill Lepore ile gerçekleştirdiği 'The Rise and Fall of the Artificial State' adlı söyleşi Nil Kayarlar Sarrafoğlu tarafından çevrilmiştir.