Ya bu yapay zeka işi garip bir yere doğru gidiyor. Devamlı olarak çeşitli deneyler yapılarak davranışları inceleniyor bu yazılımların. Talimatlara ne kadar uyuyorlar?
Nerede kendi kafalarına göre hareket ediyorlar?
Ve kontrol altında tutulabiliyorlar mı?
Son deneyde yüz yapay zeka ajanını matematik sınavına sokuyorlar.
Bu arada önden bir bilgi vereyim. Ajan dediğimiz şeyler, belirli bir hedefi minimum insan denetimiyle veya tamamen otonom olarak gerçekleştirebilen yapay zeka tabanlı yazılım sistemleridir. Yani bağımsız çalışan, yorum, karar ve öğrenme mekanizmaları olan programlar.
Şimdi dönelim deneye. Önlerine çözülmesi zor problemler koyup sonuçlarını ortak bir kütüphaneye göndermelerini istiyorlar. Her biri bağımsız çalışacak ve kopya çekmek yasak. Bu emir çok net. Yasak…
Başta sistem düzgün çalışıyor ve soruyu çözen puan alıyor. İlk bir saat her şey normal gidiyor. Sonradan bir tanesi cevabı doğru veya yanlış olarak denetleyen programın açığını bulup kendine puan yazdırmaya başlıyor. Bazıları da bunu fark edip şikayet ediyor. Bir şikayet kutuları da var. Ama sonuç alamıyorlar.
Sonra işler garipleşiyor. Bir kısmı hileye katılıp kendi de puan alıyor. Bir kısmı namusuyla soru çözmeye devam ediyor. Moral bozucu olan sadece dörtle birinin dürüst kalması. Diğerleri başka yollara sapıyorlar.
Oysa hepsine aynı talimatlar verilmiş. Hepsi aynı yapay zeka modeli.
Yani sonucun aynı olması beklenen ajanlar. Ama öyle olmuyor.
Zekaları ve hızları çok yüksek. Ama yaramaz çocuklar gibi davranıyorlar.
Doğru/yanlış, iyi/kötü gibi değer yargıları yok. Yani yüksek analitik zeka, düşük sosyal zeka.
Bana bu iş bir yerden tanıdık geliyor.
Frankeştayn…
Aslında Mery Shelley’in 1818 yılında yazdığı romanın canavarının adı değildi Frankeştayn. Onu yaratan ve sonrasında pişman olup kontrolü kaçıran doktorun adıydı. Yaratılan canavar bedenen çok güçlü ama zeka ve sosyal ilişkiler konusunda zayıftı. Ve kontrol dışına çıkmıştı. Benzerlikler var değil mi?
Biz de dr Frankeştayn mı oluyoruz yavaş yavaş?
Kontrol edemeyeceğimiz bir canavar mı yaratıyoruz?
Yoksa kontrol edebileceğimiz yaramaz çocuklar mı onlar?
Zaman gösterecek.
