Teknoloji sadece bir araç değil aynı zamanda kültürel ve ideolojik bir yapıdır. Dolayısıyla içinde yaşadığımız çağ, yalnızca teknolojik bir dönüşüm sürecini değil, insanı ve hayatı dönüşüm sürecini doğuruyor. Dijital ve algoritmik sürecinde gerçeklik yeniden üretilerek dolaşıma sokularak meşrulaştırılıyor. Böyle bir düzende köklü bir epistemik kırılmanın yaşanması doğaldır. Bu kırılmanın merkezinde yer alan yapay zekâ ve enformasyon teknolojileri, yalnızca bilgiye eriştiren araçlar olmanın çok ötesine geçmiştir. Bu araçlar, hakikatin ontolojik statüsünü dönüştüren “yeni bir akıl düzeninin” taşıyıcısıdırlar. Yeni akıl düzeni gerçekliğe veya hakikate dair “algoritmik krizi” doğurmuştur. Yapay zeka ve enformasyon teknolojileri, yalan-yanlış veya hatalı bilgiyi dolaştırarak dezenformasyonu doğurur. Gerçeklik veya hakikat anlam temelli bir iddia olmaktan çıkarak yerini imajinatif söyleme bırakmıştır. Yine bilginin yapay zekâ gibi algoritmik yapılarla istatistiksel olasılıklara indirgenmesi söz konusudur. İnsan muhakemesine dayalı epistemik otoritenin yerini algoritmik modeller almıştır. Böyle bir düzende bilginin, iyi den koparak sorunlu ahlaki-siyasal süreçler doğurması gayet doğaldır.
Yapay zekâ bilginin sorunlu dönüşüm sürecinin masum olmayan bir aracıdır. Zira Aydınlanma’nın, neoliberalizm veya kapitalizmin rasyonealiteyle iç içe geçmiştir. Yeni ideolojik düzenin aygıtı olan yapay zekâ, ticari piyasa mantığıyla uyumlu bicimde işleyen ve bu mantığı bilişsel düzeye taşıyan bir yapıdır. Gerçekliğin bütünüyle veriye/niceliğe dönüştürülebilir olduğu iddiasına sahip algoritmik sistemler, modern düşüncenin nicelik egemenli bakışının tezahürüdür. Zira modern Aydınlanmacı bakış, dünyayı ölçülebilen, sınıflandırılabilen ve öngörülebilen örüntüler toplamı olarak kavrıyordu. Her ne kadar algoritmik yapılar; nesnel, saf veya kesinlik iddiası içerisinde olsa da bu özeliklere sahip olması çok mümkün değildir. Zira algoritmik tabana dayalı olan yapay zekâ, insan taklidine dayandığı için tarihsel, kültürel ve siyasal bağlamlar içinde üretilmiştir. Nihayeti itibariyle tasarımcı tarafından seçilmiş ve filtrelenmiş temsillerden (agents) oluşan karaktere sahip olan yapay zekâ sistemlerin nesnel bir zemin olması mümkün değildir. Tasarımcının geçmişteki eşitsizlikleri, ayrımcı pratikleri ve güç eksenli bir uygarlığın ferdi (Batılı) olduğu düşünüldüğünde geleceğin de bu perspektifte inşa edilmesi kaçınılmadır. Batılı algoritmik aklın hâkim olduğu 21. yüzyılın öncekinden farklı olmayacağı aşikâr. Zira bu uygarlık; hakikati üretmekten daha çok mevcut tahakküm biçimlerini teknik bir zorunluluk gibi yeniden üreten uygarlık tipidir.
Zira Batı uygarlığı Goethe’nin “büyücü çırağı” metaforundaki gibi, ilerleme adına başlattığı teknik ve tarihsel süreçlerin yönünü ve sınırını artık tayin edemeyen bir konumdadır. “Kara kutu” olgusuna sahip olan yapay zekâ, Batı düşüncesinin yapısıyla doğrudan ilişkilidir. Zira derin öğrenme sistemine sahip olan yapay zekâ verdiği kararların gerekçesini izah edemez. Onun karar süreçleri saydamlıktan veya şeffaflıktan uzaktır. İnsanların, kendileriyle bağlantılı olan algoritmik yargıları anlaması da sorgulaması çok mümkün değildir. Gerçeklik veya hakikat, gerekçelendirilmiş bir iddia içermekten daha çok istatistiksel ifadelerle izah edilmeye çalışılır. Bu izah biçiminin de hakikatle ilişkisi yoktur diyebiliriz. Yapay zekanın niceliğe dayalı olan yapısı bilginin anlam boyutunu aşındırırken epistemik sorumluluğu da belirsiz hâle getirir. Belirli bir insan öznesiyle ilişkili olmayan hesap sorulamaz bir otoriteye dönüşmüş olan yapay zekânın ürettiği bilgiler kabul görerek kendisi otoriterleştirilebilir. Karar vericinin, hangi değerlerin gözetildiği ve hangi çıkarların korunduğu neliğine dair olan belirsizliğin nedeni sahip olduğu teknik karmaşıklıktır. Bilgi–iktidar ilişkisi, ne klasik ne de modern (mekanik) süreciyle benzer değildir. Çok farklı doğruluk oranları ve performans metrikleri üzerinden işleyen bu bilişsel yapı, mana üzerinden değil veri üzerinden iş görmektedir. Zira yapay zekâlı bu sürecin sorusu; hakikati “kimin” söylediğiyle ilgilenmez. Bu sürecin yeni sorusu; “hangi model daha iyi tahmin ediyor?” sorusudur.
Bu dönüşümün en çarpıcı örneği olan ve büyük dil modelleri ile çalışan üretken yapay zekâ sistemleri, insan diline son derece benzeyen metinler üretebiliyor. Bu da onların anlama hatta bilinç sahip oldukları yanılsamasına neden oluyor. Oysa bu sistemlerin ne dili anladığını ne de düşünmesi yani idrak etmesi mümkün. Bu sistemler yalnızca kelimeler arasındaki olasılık ilişkilerini hesaplayan sistemlerdir. Zanları da yanılgıları da (halüsinasyon) teknik bir hata olmaktan daha çok sistemin -daha esnek olması için- yapısal özelliğidir. Var olmayan kişiler, olayları, metinleri ve tarihsel olayları üretse de üretmiş olduğu bu verileri ikna edici dilsel formla sunabilir. Yapay zekâ temelli bilgilerin doğruluk ölçütleri insan zihninin ürettiği bilgiler birbirinden farklıdır. İnsanın ürettiği bilgi, doğru ile yanlış arasındaki ayrım semantik bir durumken yapay zekanın ürettiği bilginin olasılıksal bir düzlemle ilişkisi vardır. Bilginin değeri, anlam derinliğiyle ilişkili olmaktan daha çok veri setine, üretim hızına ve dolaşım kapasitesine bağlı olarak türetilir. Böylesi bir düzenin toplumu “bilgi” toplumu olmaktan daha çok “malumat” toplumudur. Malumatın sürekli aktığı bu toplum düzenine “dataizm evreni” adı veriliyor.
Anlamın sadece metinsel düzeyde yaşanmadığı dataizm evreninde hakikat görsel ve işitsel alanlarında da dumura uğramıştır. Zira olmayan kişiler, mekanlar ve olaylar kurgulanabilir. Bu kurgunun en önemli aracı Deepfake teknolojileridir. Bu teknolojiler sahte yüzleri ve sesleri dijital olarak yeniden üretebilir. Olmayan kişileri olmayan mekanlarda inşa yaşatarak gerçeklik içerdiğine dair yaşanmamış olaylara dair son derece ikna edici simülasyonlar (yanılsama) oluşturabilir. Klasik dünyada görmek veya görüntü bir kanıtken siber dünyada kanıt olmaktan çıkmıştır. Zira siber düzen, görmek ile bilmek arasındaki tarihsel bağı kopararak gerçekliğin simülasyondan ayırt edilemez hâle gelmesine neden olmuştur. Böylesi bir dünyada hakikatin temelleri aşındırılmıştır. Artık siyasetin de toplumsalın da canına okunmuştur. Simülasyon araçları ile siyasal manipülasyonlarla seçim süreçleri ve toplumsal gerilimler artırılırken uygunsuz içeriklerle ahlakdışılık yaygınlaşır.
Yapay zekâyla insanların tercihleri, tepkileri hatta düşünce ve duyguları tahmin edilerek kararları ve davranışları yönlendirebilir. Her ne kadar dijital ve algoritmik dünyada bu süreç “dürtme” olarak adlandırılmış olsa da olan şey insan iradesinin ve davranışının yeniden tasarlandığı mimari süreci içermesidir. Yapay zekâ sistemlerinin sahiplerinin veya tasarımcıların hakim olduğu siber-diji dünyada hangi bilginin, sesi, görüntünün hatta duygu ve düşüncenin görüneceğinin kararını onlar verirler. Yalnızca yanlış bilgiyi değil dolaştırmayan algoritmik yapılar, aynı zamanda duygu yöneticisi ve davranış mühendisidirler. Dijital zeminlerde klasik baskı biçimlerinden farklı olarak baskı hissettirmeden, bireyin kendini özgür hissettiği fakat hiç de özgür olmadığı bir tahakküm biçimi söz konusudur.
Yalnızca bir iktisat politikası değil; dünyayı algılama, toplumu düzenleme ve insanı tanımlama biçimi neoliberalizmle bağlantılı olan algoritmik yapılar, ideolojik ve kültürel yapıya sahiptirler. Çökeceği düşünülen neoliberal ekonominin için can suyu olan yapay zekâ, üretkenliğin artması ve sistemin yeniden canlandırılması için bir “kurtarıcı” olarak görülüyor. Hata yapan ve verimsiz olan insan yerine başı ağrımayan, midesi bulanmayan kusursuz algoritmik hesaplamaya sahip olan yapay zekanın tercih edilmesi mantıklı bulunmaya başladı. Kusursuz rasyonalitenin yüceltildiği 2. Aydınlanma süreci olarak bu çağın dönüştürücü gücü yapay zeka olarak görülüyor. Eşitliği ve özgürlüğü artıracak araç olarak görülen yapay zeka, çağın yapısal eşitsizliklerini ortadan kaldıracak “akıllı” teknoloji olarak görülüyor. Eşitlik getireceği iddia edilse de insan emeğinin sömürüsünün ürünü olan yapay zeka sistemlerinde veri etiketleme, içerik moderasyonu gibi mikro görevler küresel bir dijital prekarya tarafından yürütülür. Makinenin özerkliğini değil, insan emeğinin yeni biçimlerde parçalanmasını temsil edildiği algoritmik sistemde, zekânın etik ve toplumsal bağlamından koparılarak hesaplanabilir bir girdiye indirgenmesi söz konusudur.
Zekanın algoritmik yapıya indirgenmesine paralel olarak bilgi üretim biçimi de üniversitenin konumu da değişti. Artık üniversite, entelektüel özerk bir kurum olmaktan daha çok işleyiş mantığı bakımından bütünüyle kapitalist kâr amacı güden bir üretim aygıtıdır. Yapay zekâ destekli performans ölçüm sistemleriyle akademik emek nitel boyuttan daha çok nicel göstergelere indirgenmiştir. Akademik faaliyet, anlam üretiminden ziyade dolaşım değeri üzerinden değerlendirildiği üniversite, entelektüel meşguliyet alanı olmaktan çıkarak veri-temelli bir yönetim alanına dönüşmüştür.
İnsana, topluma ve hayata dair radikal dönüşümlerle karşı karşıya kaldığımız sorunları sadece teknik çözümlerle aşamayız. Özünde epistemolojik, etik ve politik sorunlar barındıran bu süreçte disiplinler arası çalışmamız ve üretim yapmamız gerekir. Yapay zekâ sistemlerinin şeffaflığı ve hesap verebilirliği, yalnızca mühendislik meselesi değil sosyal ve ilahiyat bilimcilerin üzerinde çalışması gereken bir gerekliliktir. Çocukları ve gençleri yapay zekâ, dijital medya ve algoritma okuryazarlığı gibi -gerçek uzmanların vereceği- bilgilerle donatmalıyız. Gençler; sadece içerikleri değil, içerikleri üreten sistemleri ve bu sistemlerin ardındaki çıkar ilişkilerini de sorgulaması ve anlaması gerekiyor. Gençler yeni bilimlere ve yeni teknolojilere uygun alanlar okumayı tercih ederek bilgi ile sermaye arasındaki ilişkiyi sağlıklı kurması gerekiyor.
Dijital ve algoritmik dünya puslu yolları olan bir güzergah. Çıkmaz sokakları ve tuhaf tabelaları olan bir dünya. Böylesi bir dünyada insanın yön duygusunu kaybetmesi büyük olasılıktır. Hakikatin algoritmaların ürettiği bir çıktı olmaktan daha çok insanın tarihsel hafızası, ahlaki muhakemesi ve eleştirel düşünme yetisinin ürünü olduğu bilincinden sapmamız gerekir. Yapay zekânın insani yetileri ikame edemediğinin bilincinde olmalıyız. Bu sisli ve puslu havada pusulanın (aklın ve vicdanın) önemini bilmeliyiz.
