Yapay Zekânın Önlenemez Yükselişinin Dayanılmaz Hafifliği…

Yapay zekâ süreçleri kime göre göz göre göre, kime göre gizliden ve çaktırmadan; kime göre arkasında görünmeyen küresel süper güçlerin bulunduğu, kime göre stratejik biçimde yürütülen, kime göre kontrollü, kime göre ise tamamen kontrolden çıkmış bir süreçtir. Belki de bütün bu komplike ihtimallerin hiçbirine tam olarak ihtiyaç yok. Çünkü ortada çok daha basit, fakat bir o kadar da ürkütücü bir gerçek var: Yapay zekâ hayatımıza artık uzak bir “gelecek” tasavvuru olarak değil, gündelik hayatın bizzat kendisi, dokunduğumuz her anın sıradan bir parçası olarak girmeye başladı.
Milan Kundera’nın felsefi klasiği Varolmanın Dayanılmaz Hafifliği kitabına bir gönderme yaparak söylersek, belki de artık söz konusu olan şey yalnızca “yapay zekânın önlenemez yükselişi” değildir; asıl mesele, yapay zekânın önlenemez yükselişinin insan zihninde yarattığı o “dayanılmaz hafiflik” duygusudur. Çünkü tarih boyunca yaşanmış istilaların en etkili ve kalıcı olanları, surları yıkarak ya da ağır demir kapıları kırarak içeri girenler değildir. Bazen kapıyı açan, kilitleri zorlayan bir saldırgan bile olmaz. Yeni gelen, zaten aralık duran kapıdan sakince içeri girer; önce salona, sonra mutfağa, ardından çalışma odasına yerleşir. Bir süre sonra ise o evin ne zaman, hangi ara tamamen onun mülkü haline geldiğini bile fark edemezsiniz.
Ben bu sessiz, konforlu ve itirazsız dönüşüme “yapay istila” diyorum.
Üstelik bu istila, klasik bilimkurgu filmlerindeki gibi gökyüzünü kaplayan çelik ordularla veya dünyayı kuşatan devasa robotlarla başlamıyor. Bir sabah uyanıp haberlerde “Yapay zekâ dünyayı ele geçirdi!” çığlıklarını duymuyoruz. Tam tersine, hayatımıza son derece masum, küçük ve cazip kolaylıklar biçiminde sızıyor. Eksik bir metni düzeltiyor, silik bir fotoğrafı güzelleştiriyor, karmaşık bir kod dizilimi yazıyor, arka planda dinlenecek bir şarkı besteliyor ya da aklımıza takılan çetrefilli bir soruya saniyeler içinde cevap veriyor. Her şey o kadar kullanışlı, o kadar pratik ve insan konforuna o kadar hitap ediyor ki; bir bireyin buna karşı çıkması, itiraz etmesi ya da şüpheyle yaklaşması neredeyse anlamsız, hatta mantıksız görünüyor.
Ancak sonra bir gün başımızı gündelik rutinimizden kaldırıyoruz ve acı bir gerçekle yüzleşiyoruz: Eskiden zihinsel emek vererek, bizzat deneyimleyerek ve uzmanlaşarak yaptığımız pek çok şeyi artık algoritmalar ve makineler üstlenmiş durumdadır.
Aslında insanlığın kendi eliyle ürettiği araçların, bir noktadan sonra ustasının yerini alması ve iktidarı sessizce ama sarsıcı bir biçimde devralması insanlık tarihinde yeni bir hikâye değildir. Varlık sahnesine çıkan her yeni güç kütlesi, kendi ekosistemini yaratırken geçmişin birikimlerini ve kültürel sermayesini yavaşça eritir. Günümüzde tanıklık ettiğimiz yapay zekânın icadı ve kontrolsüz geliştirilmesi süreci de tam olarak böyle tarihsel bir kırılmaya işaret ediyor. Algoritmaların, devasa veri işlemcilerinin ve yapay zekâ mimarilerinin gündelik yaşamdan akademiye, sanattan yüksek teknolojiye kadar her alanı parça parça kuşatmasından söz ediyoruz.
Mesela YouTube veya Spotify gibi dijital müzik platformlarında basit bir şarkı seçimiyle başlayan o "otomatik oynatma" döngüsü, aslında bu küresel kuşatmanın en yalın ve somut mikro laboratuvarıdır. Eskiden bir dinleyicinin kişisel zevki, kulak hafızası, albüm kapağındaki detaylar veya bir radyo editörünün özgün seçkisi gibi insani tercihler belirleyiciydi. Bugün ise arka planda durmaksızın çalışan algoritmalar, zamanla insan zekasının ve duygusunun ürettiği özgün besteler yerine; yine kendisinin ürettiği, kusursuz bir matematiksel simetriye sahip ama ruhtan yoksun sentetik melodi yığınlarını sunmaya başlıyor. Dinleyici, günlük işlerin koşturmacası veya dalgınlığıyla masa başında çalışırken çalma listesini sürekli denetlemiyor. Sonra birden farkına vardığında, dijital akışın insan yapımı ve duygusal olanı kademeli olarak dışarı ittiğini, yapay olanı ise merkeze yerleştirdiğini görüyor. Bu durum; ses tonu, ritim ve melodi üzerinden gerçekleşen, insanı çaktırmadan alıştırarak ve duyarsızlaştırarak ilerleyen bir kültürel dönüşümdür.
Benzeri bir tehlikeli eğilim, bilginin ve bağımsız düşüncenin en engebeli, en korunaklı kalesi sayılan akademi dünyasında ve bilimsel yayıncılıkta da kendisini gösteriyor. Eskiden bilimsel makalelerde şimdi doğruya doğru az çok seçicilik vardı. Eğer az seçicilik olur da mesela bir yazar kendi web sitesinde veya kendi editör olduğu dergisinde kendi makalelerini yayınlarsa veya sevdiği bir arkadaşının makalesini hakem denetimi gibi mekanizmalardan geçirmeden yayınlarsa buna en fazla mavi bülten denirdi. Hani internette kişisel sayfalarda ben yaptım oldu gibisinden çok bilgi var ya iste onlardan söz ediyorum. Her şeye rağmen geçmişte bilgi üretiminde katı süzgeçler, bağımsız hakemlik süreçleri, metodolojik disiplin ve editoryal titizlik esastı. Bugün ise araştırma metni yazımından karmaşık veri analizlerine, hakem değerlendirmelerinden editör kararlarına kadar uzanan bilimsel halkanın her aşamasına yapay zekâ araçları doğrudan dahil oluyor. Yapay zekâ zaten bizden akıllı: hiç kendi yazdığı makaleye tü kaka der mi? Demez elbette. Bunun Türkçesi yapay zekanın yazdığı bir makaleye yapay zekanın hakemlik yapmasıdır. Bilirsiniz yapay zekâ modelleri yanıt odaklı ve kullanıcıyı memnun etmeye programlanmışlardır. Yapıları gereği sorgulayanı onaylamaya, yapıcı ve olumlayıcı geri bildirimler vermeye meyillidir. Bu durum, doğrulanmamış verilerin, yapay zekâ tarafından uydurulan dipnotların veya kurgusal atıfların kaynak gösterilerek akademinin saygın literatürüne sızmasına yol açıyor. Bir metnin içine sızan kibarca, küçük ve kurgusal bir veri —ki bunun gerçek adı açıkça uydurmadır— sonraki akademik çalışmalara referans oldukça katlanarak büyür. Nihayetinde bu durum, bilgi ekosisteminde "yapay zekâ yamyamlığı" olarak adlandırılan, modelin kendi ürettiği sentetik veya bozuk veriyi tekrar tekrar tüketerek bilgi niteliğini çürüttüğü tehlikeli bir sarmal yaratır. Bilgi, kendi kendini yiyen bir canavara dönüşür. Yapay zekâ yamyamlığı dediğimiz bu durum diyelim ortalama en az veya en çok yüzde on oranında uydurma bilgiyi taşısın. Bileşik faiz hesabına göre ardışık 23 makale yayınlandıktan sonra en son makalenin % 98 i uydurma oluyor.
Konu ile ilgili köşe yazısı için Yapay zekâ yamyamlığı (AI cannibalism) nedir?


Tarihsel ölçekte bakıldığında, üretim araçlarına veya üstün teknolojilere sahip toplulukların dahi daha ilkel veya arkaik yapılara yenik düştüğü durumlar vardır. Antik Anadolu ve Mezopotamya coğrafyasında Sümerler gibi köklü, yazıyı ve hukuku icad etmiş bir uygarlığın; tırnak içinde kalifiye olmayan ucuz işçi olarak dışarıdan gelen ve Akkadlar olarak adlandırılan bir kavmin kontrolsüz nüfus akışları, ekonomik değişimler ve askeri dinamikler sonucunda zamanla tarih sahnesinden çekilmesi bu dönüşümün en kadim örneklerindendir. Sümerlerin "insaniyet namına" ve üretim kolaylığı sağlamak adına kendi elleriyle Akkadlara sundukları imkânlar ve kapılarını açmaları, uzun vadede Akkadların Mezopotamya'da siyasi, askeri ve kültürel olarak egemenliklerini geliştirmelerine zemin hazırlamıştır. Bu süreç, zamanla kendi kültürü içinde Sümerlerin sonunu getirmiştir. Somutlaştıracak olursak; Akkadlı Sargon ve onun hırslı torunu Naram-Sin, Güney Mezopotamya'daki Uruk, Ur, Lagaş gibi tarihi Sümer şehir devletlerini birer birer ele geçirerek binlerce yıllık Sümer hakimiyetine nihai olarak son vermişlerdir. İnsanlığın kolaylık için kapısını açtığı her unsur, yönetimi ele aldığında eski ev sahibini mülksüzleştirir. Bu arada arif olanların anlayacağı üzere ülkemizin güncel bir sorununa da parmak basmış olalım.
Günümüzde benzer bir başka risk de yazılım ve mühendislik dünyasında yaşanıyor. Eskiden haftalar, hatta aylar alan karmaşık kodlama ve yazılım süreçlerinin yapay zekâ ile dakikalar içinde tamamlanması muazzam bir verimlilik ve zaman kazancı sağlar. Ancak bu konforun bir de karanlık yüzü vardır: İnsan zihninin soyut problem çözme yetisini, algoritmik düşünme becerisini ve özgün tasarım kapasitesini aşamalı olarak algoritmik sistemlere devretmesi, uzun vadede insanı kendi ürettiği teknolojiye bağımlı ve o teknoloji olmadan hiçbir şey inşa edemeyen aciz bir konuma düşürür. Demem o ki yakında yapay zekâ kendi ülkesini, tırnak içinde zaten var olan Meta Horizon Worlds - The Anne Frank House VR - VRChat – Second Life - Wargaming Meta - IL-2 Sturmovik gibi sitelerin ötesinde, şimdiye kadar hayal edilmemiş bir ekosistem olarak kurarsa kimse şaşırmasın.
Konunun varoluşsal boyutunu anlamak adına bir diğer çarpıcı örneğimizi de bilimkurgu sineması üzerinden verelim. Sinema, teknolojik gelişimin yarattığı varoluşsal kaygıların en estetik görsel yansımasıdır. 1956 tarihli ünlü bilimkurgu klasiği Yasak Gezegen, filminde tam da bu tema işlenir. Filmde muazzam bir gelişmişlik düzeyine ulaşan "Krell" uygarlığı, teknolojide o kadar ileri gitmiştir ki zihin gücüyle maddesel olan her şeyi anında yaratabilen devasa bir gezegensel makine inşa ederler. Ancak hesaba katmadıkları, unuttukları hayati bir şey vardır: İnsan zihninin ve bilincinin karanlık, bastırılmış yönleri. Zihinleri birbirine ve bu devasa makineye bağlandıkça, kendi bilinçaltlarındaki yıkıcı, kıskanç ve saldırgan dürtüler makine tarafından somutlaştırılan kontrolsüz bir güce dönüşür ve bu koskoca medeniyet tek bir gecede kendi ürettiği güç yüzünden kendi kendini yok eder. Yani bir insanın karşısındaki bir insanın kendi hakkında o anda aklından geçenleri okuduğunu düşünün. İşte öyle bir facia. Neticede insanlar birbirlerini boğazlamışlardır. Bilimkurgu edebiyatı ve sineması, teknolojinin kontrolsüz gelişimi ile insanın kendi doğasındaki yıkıcı boşluklar arasındaki bu hassas dengeyi sıklıkla hatırlatır.
Sonuç olarak; sanatın estetik dokusundan bilimsel bilginin güvenilirliğine, yazılımın mantıksal mimarisinden gündelik tüketim alışkanlıklarımıza kadar her alanda tanık olduğumuz bu sessiz devrim, insanlığın kendi ürettiği teknolojiler karşısındaki konumunu ve edilgenliğini yeniden gözden geçirmesini zorunlu kılıyor. Buradaki asıl mesele, teknolojiyi reddetmek ya da bir Neo-Luddite anlayışla makineleri kırmak değildir. Önemli olan, algoritmik araçların sunduğu pratik kolaylıkları ve konforu kullanırken; eleştirel düşünceyi, özgün sanatsal üretimi, derinlikli sorgulamayı ve bizzat insani muhakeme yetisini bu pürüzsüz algoritmik akışın akıntısına kapıp boğmamaktır. Aksi takdirde, kendi açtığımız kapıdan giren bu zeki misafir, yarın evin gerçek sahibi olduğunu ilan ettiğinde şaşırmaya bile hakkımız kalmayabilir.