Dr. Alper Sezener’in bu yazısı, yapay zekanın insan zihnini tembelleştirme potansiyelini ve beraberinde getirdiği etik ile toplumsal riskleri derinlemesine ele almaktadır. Yazar, antik dönemdeki yazı eleştirilerinden yola çıkarak, teknolojik araçların belirli bir aşamadan sonra asıl amaçlarının aksine insan yetilerini körelten bir yapıya dönüştüğünü savunur. Algoritmaların bireyler üzerindeki denetimini ve otoritesini sorgulayan metin, sorumluluğun belirsizleştiği bir düzende düşünme eyleminin yerini alan kurumsal itaate dikkat çeker. Bilgi ile bilgelik arasındaki farkı vurgulayan yazar, gerçek hikmetin ancak zihinsel çaba ve mücadele ile kazanılabileceğini belirtir. Sonuç olarak kaynak, dijital bir tahakküme karşı özgürlüğü korumanın tek yolunun, yapay zekaya teslim olmadan yavaş ve derinlemesine düşünme pratiğine geri dönmek olduğunu ifade eder.
Sokrates, yazının icadından yakınıyordu. Platon’un Phaidros diyaloğunda bu kaygıyı şöyle dile getirmişti: “Bu icat öğrencilerin ruhlarında unutkanlık doğuracak. Belleklerini kullanmayacaklar, kendi anımsama güçleriyle değil, dışarıdan gelen işaretlerle hatırlayacaklar.”
Bunları söylediğinde milattan önce dördüncü yüzyıldı. Aradan iki bin beş yüz yıl geçti.
Yazının gelişimi; insanlığın öğrenme hızını ve kabiliyetini, öğretme pratiğini, bilimin gelişimini ve edebiyatın dönüşümünü kökten etkiledi, güçlendirdi. İnsan aklının dönüşümünü pekiştirdi.
Şimdi karşımızda, tıpkı yazının icadı gibi çağ açıp kapatan, dil ve yazının birlikteliğini aşan daha sofistike bir yapı var: Yapay Zeka.
Bir teknoloji eleştirisi yapmak istediğimde ilk içgüdüm şudur: Geri çekilmek, derinlemesine analiz etmek, “ama şunu da göz ardı etmemeli” mantığıyla tam tersi fikir ve durumları da değerlendirmeye çalışmak. Bu bir entelektüel erdem olabilir; ama bazen gerçeği bulanıklaştırmak için kullanılan bir kaçış yoludur. Bu kez kaçmayacağım.
Yapay zekanın neyi yaptığını anlamak için önce neyi vaat ettiğini hatırlamak gerekir. Temel vaatler; düşünceyi hızlandırmak, bilgiye erişimi demokratikleştirmek, yaratıcılığı güçlendirmek idi. Bu vaatler elbette bir “kandırmaca” demiyorum.
Fakat Ivan Illich’in yıllar önce fark ettiği bir paradoks var: Araçlar belirli bir eşiği aştıktan sonra tam tersini yapmaya başlar. Otomobil hareketi hızlandırmak için icat edildi; trafik yaratarak hareketi yavaşlattı. Yapay zekâ düşünmeyi hızlandırmak için tasarlandı; düşünme yetisini törpüleyerek zihinleri yavaşlatıyor.
Fark şurada: Otomobil büyük bir kolaylık olarak yaşamımıza girdi ama biz motorlu taşıtlardan önce kas gücümüzü kullanıyorduk, yürümeyi de biliyorduk, bisiklet sürmeyi de. Her türlü teknolojik gelişme genel olarak bir insanın yaşamını kolaylaştırmak ve iyileştirmek maksadıyla gerçekleştirilmiş bir dönüşüm ve adaptasyon sürecinin parçasıydı.
Zamanla insan ihtiyaçlarının sınırsız ama doğanın sınırlı olduğunu öğrendik. Dijital devrimle birlikte yaşamlarımız çok kısa sürede farklı bir paralel evrene doğru evrildi. Yaklaşık kırk yıl önce internet ve cep telefonu teknolojileri kamusal alana yayıldı, evlere girmeye başladı. Şimdi ise bir Matrix evreninde mi yaşıyoruz, diye tartışıyoruz.
Önemli düşünürlerden Hannah Arendt, Nazi Adolf Eichmann’ı analiz ederken şaşırtıcı bir şey keşfetti: Bu adam canavar değildi. Sadist de değildi. Sadece düşünmüyordu. Emirleri sorgulamayan, sisteme itaat eden, sıradan bir bürokrattı. Arendt buna “kötülüğün sıradanlığı” dedi. Kötülük çoğu zaman şeytani bir iradenin değil, düşünme eyleminin yokluğunun ürünüdür.
Şimdi şunu sorun kendinize: Kredi başvurunuzu reddeden algoritmaya nasıl itiraz edebilirsiniz? İşe alım sürecinde özgeçmişleri değerlendirip kısa listeyi hazırlayan, işten çıkarılacak kişiyi belirleyen yapay zekaya kim hesap sorabilir? Açık konuşalım, “sistem öyle karar verdi” repliği giderek yeni bir meşruiyet kalıbına dönüşüyor. Sorumluluk buharlaşıyor, karar veren yok, yargılanacak kimse yok. Düşünmeme artık bireysel bir tembellik değil; kurumsal bir tercih haline geldi.
Antik Yunan felsefesi episteme (bilgi) ile sophia (hikmet/bilgelik) arasında keskin bir ayrım yapardı. Bilgi edinilebilir, depolanabilir, aktarılabilir. Hikmet ise ancak zihinsel çaba, sabır ve mücadeleyle kazanılır. Yapay zeka bize sınırsız bilgi sunuyor. Fakat hikmeti, tanımı gereği, veremez; çünkü hikmet süreçtir, ürün değil. Bir metni yapay zekaya çözümlettiğinizde bilgiye kavuşursunuz; o metinle bizzat boğuştuğunuzda ise size bir şey daha olur. O “bir şey” aktarılamaz, kopyalanamaz, hızlandırılamaz.
Kaslarınızı kullanmazsanız zayıflar. Zihin de böyledir.
Ama asıl mesele bireysel bir beceri kaybından ibaret değil. Asıl mesele iktidar. Antonio Gramsci, iktidarın yalnızca fiziksel zorlama yoluyla değil; rıza üretimiyle, insanların kendi boyunduruklarını özgür tercih sanmalarını sağlayarak sürdüğünü göstermişti. Yapay zeka bu anlamda mükemmel bir hegemonya aracıdır. Düşünmeyi bırakan insan sorgulamayı da bırakır. Algoritmik gerçeklik tartışılmaz bir hakikat olarak yerleştiğinde, alternatif hayal etmek imkânsızlaşır. Herbert Marcuse buna “tek boyutlu insan” demişti.
Sistem o kadar mutlaktır ki karşıt düşünce için zemin kalmaz. Mevcut ekonomik düzen için bu zemin kaybı bir tehdit değil, bir fırsattır. Sorgusuz tüketen, itirazsız itaat eden, alternatif hayal edemeyen bir insan kitlesi; reklamın, propagandanın ve otomatik boyun eğişin ideal zeminini oluşturur. Ne yazık ki yapay zekanın vaatlerinin arkasında çok daha soğuk bir hesap yatar: Düşünmeyen insan, yönetilmesi en kolay insandır.
Peki ne yapmalı?
Yapay zekayı reddetmek ne mümkün ne de anlamlı. Yazıyı reddeden Sokrates yanıldı; ya da en azından tarihin akışını durduramadı. Ama Sokrates’in asıl derdi yazı değildi; yazıya kayıtsız teslimiyetti. Aynı ayrım bugün de geçerli. Mesele şu: Yapay zekayı ne zaman ve neden kullandığınızı bilmek. Bir aracın bizi düşünmek yerine mi, yoksa daha iyi düşünmek için mi kullandığını ayırt etmek. Bu ayrım küçük görünür, ama her büyük fark küçük görünür, ta ki geç kalınana kadar…
Carlo Petrini, endüstriyel gıdaya karşı “yavaş yemek” hareketini başlattığında kimse ciddiye almadı. Şimdi bir kültür eleştirisi olarak okunuyor. Belki de zamanı geldi: Hızlı, otomatik, dışsallaştırılmış düşünceye karşı yavaş, çabalı, içsel bir düşünme pratiği. Bir problemi yapay zekaya sormadan önce onunla biraz boğuşmak, bir metni çözümletmeden önce okumak, bir fikri üretmeden önce onu sindirmeye çalışmak basit adımlardır.
Bu noktada aklıma Andrew Niccol’ün 1997 yapımı Gattaca isimli filmi geliyor. Filmde genetik mühendisliği insanları “geçerli” ve “geçersiz” olarak ikiye bölmüştür; algoritma doğumdan itibaren kaderinizi belirler, potansiyelinizi önceden hesaplar, sizi bir veri noktasına indirger. Ama filmin kahramanı Vincent (Ethan Hawke), bu hesabın dışında kalır; biyolojik olarak “yetersiz” olmasına rağmen, yalnızca irade ve dirençle sistemi aşar.
Gattaca‘nın bugün hâlâ bu denli sarsıcı olmasının nedeni, anlattığı distopyanın sunduğu evrenin belirlenimci doğasının güncelliğini koruması. Orada daha çok genetik bir kodlama olsa da temel mantık aynı. Günümüzde yapay zekaya dayalı tahakküm de benzer bir şekilde ilerliyor. Kredi skorunuz, arama geçmişiniz, tüketim alışkanlıklarınız; bunların tamamı sizi daha siz olmadan tanımlıyor, sınıflandırıyor, yerleştiriyor.
Filmde Vincent’ın sorusu bizim sorumuza dönüştü: Sistem sizi “geçersiz” ilan ettiğinde, hâlâ kendiniz olabilir misiniz?
Spinoza “özgürlük zorunluluğun kavranmasıdır” derdi. Zorunluluğu anlıyoruz artık. Yapay zekanın ne olduğunu, ne yapabileceğini ve ne yapamayacağını biliyoruz. Bilmek henüz özgürlük değil; ama özgürlüğün başlangıcı.
Platon’un mağarasında tutsaklar zincirlerinin farkında değildi. Biz farkındayız. Zincirler bu kez dijital, perdeler algoritmik ve mağaradan çıkış hâlâ aynı kapıdan, düşünmekten geçiyor. Zor olan, yavaş olan, karşılığı hemen görünmeyen düşünme eylemi bu sürecin anahtarı. Bunu yapay zekaya yaptıramazsınız.
