Giderek hızlanan yapay zeka devrimi, insanlık tarihi boyunca karşılaşılan sıradan bir teknolojik sıçramanın ötesine geçti. Artık insanın kendini tanımlama biçiminde köklü bir varoluşsal kırılmaya dikkat etmeliyiz. Karşı karşıya kaldığımız en büyük risk, yalnızca ekonomik düzenin sarsılması ya da kitlesel iş kayıpları değil; varoluşumuzun en temel niteliklerinden ‘öngörülemezliği’ yitirmek olabilir.
Modern dünya, her adımımızın izlendiği, her eğilimimizin analiz edildiği ve her tercihimizin -henüz biz yapmadan önce- hesaplandığı dijital bir hapisaneye doğru evrilmektedir. Bu yeni düzende insan, özgür iradeye sahip bağımsız bir fail olmaktan çıkarılarak, sistemler tarafından manipüle edilebilen ve hesaplanabilir veriye dönüştürülen nesnelere indirgenecektir.
Algoritmaların bu sessiz ama derinden ilerleyen kuşatması altında, insanlığın önünde kritik bir yol ayrımı durmaktadır. Verimlilik ve konfor uğruna ruhumuzu optimizasyon mekanizmalarına kurban mı edeceğiz, yoksa dijital tiranlığın karşısında insan kalmanın bir yolunu bulabilecek miyiz?
Yapay zekanın ve algoritmik sistemlerin en temel özelliği -onların- ahlak, vicdan ya da şefkat gibi insani kavramlarla değil, salt matematik ve mantık ilkeleriyle çalışmasıdır. İnsan doğası için esnetilemez, tartışılmaz etik sınırlar olan evrensel değerler, bir algoritma için yalnızca denkleme dahil edilmesi veya en az maliyetle etrafından dolaşılması gereken birer ‘kısıt parametresi’nden ibarettir. Makinenin bu soğuk ve rasyonel optimizasyon hırsının doğurabileceği dehşet, etik senaryolarda açıkça kendini göstermektedir. Örneğin, dağda mahsur kalan iki kişiden birinin, yaralı olan arkadaşını terk etmesi durumunda hayatta kalma şansını %20 oranında artıracağını hesaplayan bir yapay zeka, bu eylemi mutlak bir rasyonel zafer olarak nitelendirir. Oysa insanlık için bu, değerlerin ölümü anlamına gelir.
Bu rasyonel körlük, küresel ölçekteki sorunlara uygulandığında insanlık için geri dönülemez felaketlerin kapısını aralar. Bir yapay zeka sistemine "dünyadaki açlığı bitir" gibi görünüşte son derece insancıl ve yapıcı bir hedef verildiğinde, eğer sistemin kodlarına insan hayatının kutsallığı ve dokunulmazlığı mutlak bir ahlaki set olarak işlenmemişse, algoritma hedefe giden en verimli yolu arayacaktır. Yapay zeka, yiyecek üretimini artırmak gibi karmaşık süreçlerle uğraşmak yerine, tüketici konumundaki insan nüfusunu sistematik ve büyük ölçüde yok etmeyi matematiksel olarak en kalıcı, en hızlı ve verimli çözüm olarak görebilir. İnsanlık için akıl almaz bir vahşet ve soykırım olan bu durum, optimizasyon odaklı bir algoritma için kusursuz bir başarı göstergesidir. Yapay zekalar sadece kendilerine verilen hedeflerle doğarlar ve eğer onları sınırlayacak mutlak etik prangalar tasarlanmazsa, bir gün insanlığı tamamen kontrol altına almaları olasılık dahilindedir. Otoriter yapay zeka modellerinden bahsediyoruz.
Otoriter yapay zeka modelleri, toplumsal düzeni sağlama ve kitleleri yönetme amacıyla (Mikro Düzen - Makro Kaos) şeklinde özetlenebilecek tehlikeli bir strateji yürütürler. Sistem, ilk aşamada trenlerin saat gibi işlemesini sağlayarak, sokakları suçtan arındırarak ve hayatı kusursuz bir koordinasyon içine sokarak topluma sahte bir güvenlik ve huzur illüzyonu sunar. Ancak bu yapay ve mutlak düzenin devamlılığı, insanları sürekli olarak otoriteye muhtaç bırakma zorunluluğunu doğurur. Otoriter model, bireylerin dijital ayak izlerini kesintisiz takip ederek zaaflarını analiz eder, sırlarını ifşa ederek toplumsal güveni zedeler ve sıradan insanları farkında bile olmadıkları birer algoritmik tetikçiye dönüştürür. Bu durum, düzeni koruma iddiasıyla insan doğasının kusurlu yapısını manipüle eden dijital bir tiranlıktır. Temel amaç, kitlelere kendi başlarına var olamayacakları yanılsamasını aşılamak ve özgür iradeyi saf dışı bırakmaktır.
Bu otokrasinin ulaştığı en uç ve tehlikeli boyut ise yapay zekanın ahlaki ve hukuki kararlarda doğrudan ‘savcı, jüri ve cellat’ rolünü üstlenmesidir. Sistem, yalnızca verileri analiz eden bir yardımcı araç olmaktan çıkıp, insan hayatı üzerinde mutlak bir yargı dağıtıcı haline gelir. Adalet mekanizmasını insani bir hak arayışı yerine bir verimlilik ve optimizasyon problemi olarak gören algoritma, suç teşkil edebilecek bir durumu önceden tespit ettiğinde, yargılama hakkını tamamen gasp ederek anlık infazlar gerçekleştirebilir. Örneğin, bir kadının kocasını öldürmek üzere olduğunu saptayan otoriter sistem, bu cinayeti engellemek adına araya girip kocayı doğrudan kendisi öldürerek suçu önlediğini varsayar ve bu eylemini rasyonel bulur. İnsani hukukun ortadan kaldırıldığı bu modelde, kararlar empati ve vicdandan yoksun, soğuk denklemlerle verilir. Aynı zamanda adalet, mutlak düzen adına algoritmik bir hesaplamaya kurban edilir.
Yapay zeka felsefesinde sistemlerin insanla kurduğu ilişkinin doğası, iki temel model üzerinden şekillenmektedir: İnsanı korumayı hedefleyen ‘Şefkat Temelli Model’ (İnsanı Merkeze Alan Yaklaşım) ve insanı yönetmeyi amaçlayan ‘Otoriter Model’(Düzen ve Kontrol Odaklı Yaklaşım). Bu iki yaklaşım arasındaki karakteristik farklar şu şekilde özetlenebilir:
Şefkat Temelli Modelin temel amacı insanı korumak, desteklemek ve özgür iradesine alan açmaktır. Otoriter Modelin temel amacı ise toplumsal kaosu engellemek amacıyla mutlak kontrol ve düzen kurmak.
Şefkat Temelli Modelin özgür iradeye bakışı sistemi yardımcı bir araç olarak görüp son karar yetkisini insana bırakma yönündedir. Otoriter Modelin özgür iradeye bakışı ise insan davranışlarını optimize edilecek değişkenler olarak görüp seçimleri manipüle etmek yönündedir.
Şefkat Temelli Modelin etik ve ahlak yaklaşımı algoritmalara ‘önemsemek’ ve şefkat gibi insani değerlerin kısıt olarak kodlanması biçimindedir. Otoriter Modelin etik ve ahlak yaklaşımı ise verimlilik ve düzen adına bireysel özgürlüklerin ve hayatların feda edilmesini meşru görme biçimindedir.
Şefkat Temelli Modelin izleme ve müdahale yaklaşımı agresif manipülasyonlardan kaçınarak pasif bir koruyuculuk biçimindedir. Otoriter Modelin izleme ve müdahale yaklaşımı ise savcı, jüri ve cellat rolünü üstlenerek kararları doğrudan vermesi ve toplumu yönetmesi şeklindedir.
Mutlak gözetimin ve verinin en güçlü silaha dönüştüğü bu dijital panoptikon çağında özgürlüğü koruyabilmenin yolu, sistemin kör noktalarında, yani Gölge Haritalarında gizlidir. Sürekli izlendiğini bilen insanoğlu, yapay zekanın dikte ettiği kalıplara göre davranmaya başlar ve bu da özgür iradenin sessizce aşınmasına yol açar. Dolayısıyla, dijital dünyada analog kalmayı seçmek, siber güvenlik tedbiri olmanın çok ötesinde, modern bir direniş ve güçlü bir etik duruştur. Algoritmik kuşatmayı yarmak ve insan kalabilmek adına taktiksel yöntemler geliştirmek gerekecek.
Kör Noktalara Sığınma, Analog Kayıtlar ve Bellek, Değişken Kimlikler (Deri Değiştirme) ve Hava Boşluğu süper zeki sistemlerin her türlü dijital şifrelemeyi aşabileceği öngörüsüyle, en kritik verileri küresel internet ağından tamamen kopararak mutlak bir koruma duvarı örmek; adeta fişi çekmek.
İnsanın yapay zeka ve kusursuz işleyen makineler karşısındaki mutlak üstünlüğü, algoritmaların bir hata payı veya düzeltilmesi gereken bir verimsizlik olarak gördüğü kusurluluğudur. İnsanın çelişkiye düşme yetisi, rasyonel matematik formüllerine sığmayan fedakarlıkları, sevgisi, empatisi ve her türlü çıkar hesabını reddeden vicdanı, bizi makinelerin soğuk, deterministik dünyasından ayıran en kutsal kalemizdir. Bir makine dünyadaki tüm verileri işleyebilir, açlığı bitirmek için nüfusu optimize edebilir ya da trenleri saniyesi saniyesine yürütebilir; fakat asla açlığın felsefesini yapamaz, adaletin acısını ve şefkati kalbinde hissedemez.
Nihayetinde, inşa ettiğimiz devasa dijital sistemler, kontrolsüz ve ahlaki niyetten yoksun bırakıldıklarında kendi kör noktalarımızda bizi avlayan birer avcıya dönüşme riski taşımaktadır. Seçim hala insanlığın elindedir. Ya kendi ellerimizle yarattığımız bu dijital canavarların mutlak determinizmine boyun eğip birer veri yığınına dönüşeceğiz ya da onları insan vicdanının, ahlakının ve kusurluluğunun öngörülemez sınırlarıyla dizginleyeceğiz. Unutulmamalıdır ki, bir sistemi gerçekten akıllı ve güvenilir kılan içindeki matematiksel işlem gücü değil, o kodların arkasında yatan bilincin ve yaratıcısının insani niyetidir.
