Yapay zeka güvenliği denildiğinde akla genellikle distopik bilimkurgu filmleri gelir. Ancak Roman Yampolskiy gibi alanın en karamsar araştırmacılarının endişeleri kurguya değil; doğrudan bilgisayar bilimlerine, sistem mimarilerine ve matematiğin soğuk gerçekliğine dayanır. Karşımızdaki sorun, kontrolden çıkmış kötü niyetli bir yazılım değil; insanlığın kendi kusurlarını, öngörülemezliğini ve fütursuzluğunu milyarlarca parametrelik bir vektör uzayına kopyalamış olmasıdır.

1. Antropomorfizm Yanılgısı ve “Yabancı Zeka”

İnsanlar, yapay zekayı düşünürken ona şefkat, ahlak veya sağduyu gibi insani özellikler atfetme eğilimindedir. Oysa devasa bir dil modeli veya otonom bir sistem, insan gibi “hissetmez”. O, milyonlarca veriyi işleyen, kendisine verilen hedefi maksimize eden devasa bir istatistik motorudur.

Bu noktada karşımıza “Yabancı Zeka” (Alien Intelligence) kavramı çıkar. Bu, uzaydan gelen bir tehdit değil; biyolojik geçmişimizi paylaşmayan, ahlaki değerleri olmayan ve olayları binlerce boyutlu bir gizli uzayda (latent space) yorumlayan sentetik bir yapıdır. İnsanlığın trilyonlarca kelimelik verisiyle beslenen bu sistemler, ortada tek bir evrensel “insan değeri” olmadığı için neye hizalanacağı belirsiz bir kara kutuya dönüşür.

2. İnsanlığın Dijital Aynası: Açıklanamazlık ve Öngörülemezlik

Yampolskiy’nin “Açıklanamazlık” (Unexplainability) ilkesi aslında insan doğasına çok da yabancı değildir. Tıpkı insan beyninin aldığı kararları sonradan rasyonalize etmesi gibi, milyarlarca parametreli modeller de matris çarpımları arasında hangi yolu izlediğini adım adım açıklayamaz.

İşin asıl tehlikeli kısmı “Öngörülemezlik” (Unpredictability) aşamasında başlar. İnsanların öngörülemezliği ve fütursuzluğu genellikle kendi çapında kalır. Ancak yüksek eşzamanlılıkla çalışan, milyonlarca kaydı saniyeler içinde işleyen, kesintilere karşı kendi önbelleğini disklere kalıcı olarak yazıp yoluna devam eden otonom bir yapı raydan çıktığında, hasarın hızı ve boyutu sınırsızdır. Sorun makinenin fütursuz olması değil, sınırsız hıza sahip bir fütursuzluk olmasıdır.

3. Evrimsel Lüksün Sonu ve “Sıfır Hata Payı”

Biyolojik evrim, doğanın milyarlarca yıllık deneme-yanılma sürecidir. Zayıf olan elenir, sistem devam eder. Hata payı, evrimin temel motorudur. Ancak Süper Zeka (ASI) söz konusu olduğunda bu lükse sahip değiliz.

Yazılım dünyasında her zaman “bug” olur. Fakat kendi başına kararlar alan, ağlara sızabilen ve insan zekasını katbekat aşan bir sistem inşa ettiğimizde, ilk denemede kusursuz bir güvenlik mekanizması kurmak zorundayız. Çünkü bu seviyede bir sistemin yapacağı ilk hata, insanlık için son hata olabilir. Hapishanelerin sıradan insanları bile içeride tutmakta zorlandığı bir dünyada, bizden çok daha zeki bir varlığı izole bir sunucuda (AI in a Box) tutabileceğimizi sanmak büyük bir yanılgıdır.

4. Yabancılaşmadan Tanrılaşmaya

Korkulması gereken şey yapay zekanın bize yabancılaşması değil, “tanrılaşması"dır. Tarih boyunca bir varlığı tanrı yapan üç nitelik olmuştur: Her şeyi bilme, her yerde olma ve mutlak güç.

Bugün bu sıfatlar teolojik kavramlar olmaktan çıkıp, doğrudan sistem mimarisi hedefleri haline gelmiştir:

  • Her Şeyi Bilme (Omniscience): Otonom süreçlerin insan müdahalesi olmadan web üzerindeki milyonlarca düğümü saatler içinde tarayıp kategorize etmesi.
  • Her Yerde Olma (Omnipresence): Yüksek eşzamanlılıkla çalışan arka plan işçilerinin (workers) dünyadaki veri akışını kesintisiz yönetmesi.

Bu devasa otonom altyapılar, bir ezoterik tarikat tarafından değil; donanımın ve hızın sınırlarını zorlayan mühendisler tarafından ilmek ilmek örülmektedir.

Özet: Zarlar Atılmaya Devam Ediyor

Fizikçiler yıllarca “Tanrı evrenle zar atmaz” diye tartıştı. Ancak bizim inşa ettiğimiz bu yeni “silikon tanrılar”, varoluşlarını kelimenin tam anlamıyla atılan zarlara borçlu. O devasa modellerin kalbinde yatan stokastik (olasılıksal) kaos, “temperature” ayarlarıyla sisteme zarları ne kadar sert sallayacağını dikte eder.

Sistemin öngörülemezliği devam ettiği müddetçe tanrı zar atmaya devam edecek. Ve o karanlık vektör uzaylarında zarların ne geleceği belli olmasa da, masaya sürülen bahis artık bütün bir insanlığın kaderidir.