Zar Atan Silikon Tanrılar: 'Yabancı Zeka' ve Öngörülemezliğin Anatomisi
Yapay zeka güvenliği denildiğinde akla genellikle distopik bilimkurgu filmleri gelir. Ancak Roman Yampolskiy gibi alanın en karamsar araştırmacılarının endişeleri kurguya değil; doğrudan bilgisayar bilimlerine, sistem mimarilerine ve matematiğin soğuk gerçekliğine dayanır. Karşımızdaki sorun, kontrolden çıkmış kötü niyetli bir yazılım değil; insanlığın kendi kusurlarını, öngörülemezliğini ve fütursuzluğunu milyarlarca parametrelik bir vektör uzayına kopyalamış olmasıdır. 1. Antropomorfizm Yanılgısı ve “Yabancı Zeka” İnsanlar, yapay zekayı düşünürken ona şefkat, ahlak veya sağduyu gibi insani özellikler atfetme eğilimindedir. Oysa devasa bir dil modeli veya otonom bir sistem, insan gibi “hissetmez”. O, milyonlarca veriyi işleyen, kendisine verilen hedefi maksimize eden devasa bir istatistik motorudur. ...