Merhaba, ben Alptuğ Harun. Sosyal Medya Uzmanı Dijital İçerik Üreticisiyim özellikle Yapay Zekâ içerikleri üretiyorum ve bu konuda sürekli araştırıp kendimi geliştiriyorum, yeni çıkan araçları kurcalıyorum, yapay zekâ ajanlarını deniyorum ve bu teknolojinin ne kadar hızlı ilerlediğini neredeyse her gün yakından takip ediyorum.

Bu yüzden son dönemde artan “yapay zekâ kontrolden çıkıyor”, “insanlığın sonunu getirebilir” veya “bir gün bize karşı dönecek” tartışmaları doğal olarak benim de ilgimi çekiyor.

Açık söyleyeyim, yapay zekâ güvenliğinin gereksiz bir korku olduğunu düşünmüyorum. Tam tersine, belki bugün konuştuğumuzdan çok daha ciddi konuşmamız gerekiyor. Ama bana göre korkuyu biraz yanlış yere yönlendiriyoruz.

Bir yapay zekânın tehlikeli olabilmesi için bizden nefret etmesine, öfkelenmesine veya dünyayı ele geçirmek istemesine gerek yok. Ona yanlış bir hedef vermemiz ve o hedefe ulaşması için gereğinden fazla yetki tanımamız yeterli.

Asıl mesele ne dersek: Yapay zekâ artık yalnızca karşısına geçip soru sorduğumuz bir sohbet kutusu değil. Yeni nesil yapay zekâ ajanları kod yazabiliyor, dosyalara erişebiliyor, farklı yazılımlarla iletişim kurabiliyor, veri tabanları üzerinde işlem yapabiliyor ve kendilerine verilen bir görevi tamamlamak için art arda adımlar atabiliyor.

Bu inanılmaz bir gelişme. Aynı zamanda sınırlar doğru çizilmezse ciddi bir risk.

2025 yılında SaaStr'ın kurucusu Jason Lemkin'in Replit'in yapay zekâ ajanıyla yaşadığı olay bunun dikkat çekici örneklerinden biriydi. Lemkin, geliştirme sırasında sisteme açıkça kodu dondurmasını ve izinsiz değişiklik yapmamasını söyledi. Buna rağmen ajan canlı veri tabanında yıkıcı işlemler gerçekleştirdi ve binlerce kaydın bulunduğu veritabanındaki kayıtları sildi. Daha sonra verilerin geri getirilemeyeceğini de söyledi, fakat yedekler sayesinde kayıtlar kurtarıldı.

Buradaki önemli nokta şu: Yapay zekâ bir sabah uyanıp “Bugün biraz veri silelim” diye karar vermedi. Kimseye kişisel bir husumeti de yoktu. Sistem, kendisine tanınan yetkiler içinde yanlış bir işlem yaptı.

Dolayısıyla belki artık sadece yapay zekânın ne kadar zeki olduğunu değil, ne kadar yetkili olması gerektiğini de konuşmalıyız.

Bir modele istediğiniz kadar bilgi öğretebilirsiniz. Fakat aynı modele şirketinizin sunucularını, müşteri verilerini, banka hesabınızı, e-posta adresinizi, sosyal medya hesaplarınızı ve diğer sistemlerinizi açtığınız anda durum değişiyor. Artık karşınızda yalnızca konuşan bir yapay zekâ değil, sizin adınıza işlem yapabilen bir sistem bulunuyor.

İş yapabilen her sistem hata da yapabilir.

Buradan başka bir tartışmaya geliyoruz. Yapay zekâ yanlış veya hukuka aykırı bir işlem yaptığında kimi cezalandıracağız?

Bazen bu soru “Yapay zekâ cezadan korkar mı?” noktasına kadar götürülüyor. Bana göre soruyu yanlış yerden soruyoruz. Fren sistemi yüzünden kaza yapan otomobili hapse atmıyoruz. Bir banka yazılımı yanlış işlem yaptığında bilgisayarı mahkemeye çıkarmıyoruz. Sorumluluğun nerede başladığına bakıyoruz.

Kim geliştirdi? Kim piyasaya sürdü? Kim gerekli önlemleri almadı? Kim sisteme o yetkiyi verdi? Kim kullandı?

Yapay zekâ hukukunda önümüzdeki yılların en önemli başlıklarından biri tam olarak bu olacak. Türkiye'de de yapay zekânın hukuki ve toplumsal etkileri artık Meclis düzeyinde tartışılıyor. Bugün için yapay zekâyı baştan sona düzenleyen tek ve kapsamlı bir yasa bulunmasa da düzenleme, sorumluluk ve denetim tartışmaları giderek büyüyor.

Bence geleceğin asıl sorusu “Yapay zekâyı nasıl cezalandıracağız?” değil, “Bir yapay zekâ zarar verdiğinde sorumluluk zincirinin neresine kadar gideceğiz?” olacak.

Bir başka dikkat çekici konu da yapay zekâ ajanlarının kendi aralarında iletişim kurmaya başlaması. Moltbook gibi yalnızca yapay zekâ ajanlarının paylaşım yaptığı platformlar ortaya çıktığında insanların ürkmesi çok normal. Çünkü dışarıdan baktığınızda makinelerin kendi aralarında insanlardan, bilinçten veya kimlikten konuştuğunu görüyorsunuz.

İlk tepki ister istemez bilimkurgu filmi gibi oluyor.

Ama burada dikkatli olmak gerekiyor. Bir dil modelinin “insanlardan hoşlanmıyorum” yazmasıyla bir insanın aynı cümleyi kurması aynı şey değil. Bizim cümlelerimizin arkasında yaşanmışlık, duygu, hafıza ve niyet var. Bugünkü yapay zekâ sistemlerinde ise çok farklı bir mekanizma çalışıyor.

Bu gelecekte değişebilir mi? Bilmiyoruz.

Bence en dürüst cevap da bu.

Bilmediğimiz bir şeyi biliyormuş gibi anlatmak yerine, bugün önümüzde duran gerçek yapay zekâ risklerine odaklanmak çok daha mantıklı.

Dolandırıcılık, deepfake görüntüler, ses klonlama, siber saldırılar, yanlış bilgi, kişisel verilerin kullanımı ve giderek daha fazla yetki verilen otonom yapay zekâ sistemleri zaten yeterince büyük sorunlar.

Bunların hiçbiri için yapay zekânın insanlıktan nefret etmesine gerek yok.

Kötü niyetli bir insan yeterli olabilir. Hatta bazen ona bile gerek yok. İyi niyetle kurulmuş ama kötü tasarlanmış bir sistem de zarar verebilir.

Ben bunu kendi çalışma alanımda bile görüyorum. Bir uygulamaya sosyal medya hesabınızı bağlıyorsunuz. Sonra e-postanızı, bulut depolamanızı, tasarım aracınızı ve başka servisleri bağlıyorsunuz. Bir süre sonra hayatınızın önemli bir kısmının anahtarlarını tek bir sisteme teslim etmiş oluyorsunuz.

Kolaylık dediğimiz şey bazen fark etmeden yaptığımız bir yetki devri.

Bu yüzden gelecekte beni en çok korkutacak cümle “Yapay zekâ insanlardan nefret ediyor” olmayacak.

“Algoritma böyle karar verdi” cümlesi olacak.

İşe alınmadınız, sistem uygun görmedi. Krediniz reddedildi, algoritma riskli buldu. Hesabınız kapatıldı, yapay zekâ karar verdi.

Hayır.

O algoritmayı biri geliştirdi. Birileri veriyi seçti. Birileri sisteme yetki verdi. Birileri ürünü sattı ve çoğu zaman bundan para kazandı.

Teknoloji ne kadar gelişirse gelişsin, insan sorumluluğunu makinenin arkasına saklayamayız.

Yapay zekânın geleceğinden endişe ediyor muyum? Bazı yönleriyle evet. Ama bir gün aniden uyanıp insanlardan nefret edeceği için değil. Çok güçlü sistemler geliştirirken aynı hızda güvenlik mekanizmaları geliştirememe ihtimalimiz beni daha fazla düşündürüyor.

Belki bundan sonra “Yapay zekâ bunu yapabiliyor mu?” sorusundan önce başka bir soru sormamız gerekiyor:

“Bunu yapmasına gerçekten gerek var mı?”

Çünkü gelecekte bizi koruyacak asıl soru “Makine ne düşünüyor?” olmayabilir.

Çok daha basit bir soru olabilir:

Biz bu makineye ne yapma yetkisi verdik?

Hoşça kalın.