Yapay zeka tehlikeli mi? İşte muhtemel tehditler
Mart 2018’de Austin, Teksas’taki South by Southwest teknoloji konferansında Tesla ve SpaceX’in kurucusu Elon Musk dostça bir ikazda bulundu: “Sözlerimi not edin, “AI, nükleer bombalardan çok daha tehlikelidir.” tabirlerini kullanmıştı. Bilhassa teknoloji hakkında görüş kelam konusu olduğunda, açık kelamlı Musk, bu yapay zeka önsezilerinin bir versiyonunu öteki ortamlarda da tekrarladı.
Yapay zeka tehlikeli mi? İşte mümkün tehditler
SXSW izleyicisine “Yapay zekadaki en son teknolojiye nitekim epey yakınım ve bu beni çok korkutuyor” dedi. “Neredeyse herkesin bildiğinden çok daha fazlasını yapabilir ve gelişme suratı katlanarak artıyor” tabirlerini kullanan Musk telaşlarını lisana getirdi.
Ancak Musk, ziyadesiyle kuşkucu görüşlerinde yalnız değil. Bir yıl evvel, merhum fizikçi Stephen Hawking, de misal tasalarını lisana getirmişti. “Potansiyel risklere nasıl hazırlanacağımızı ve bunlardan nasıl kaçınacağımızı öğrenmezsek,” diye açıkladı, “AI, uygarlığımızın tarihindeki en makûs olay olabilir.”
Yaşamın Geleceği Enstitüsü’nden araştırma vazifelisi Stuart Armstrong, yapay zekadan “yok olma riski” olarak bahsetti. Nükleer savaşın bile yıkım açısından farklı bir düzeyde olduğunu söyledi zira “gezegenin sadece nispeten küçük bir kısmını öldürecektir, fakat AI berbata giderse insanların yüzde 95’i öldürülebilir” sözlerini kullandı.
Yapay zeka böylesine tehlikeli bir noktaya tam olarak nasıl ulaşır? Bilişsel bilim adamı ve muharrir Gary Marcus, aydınlatıcı bir 2013 New Yorker makalesinde birtakım detaylar sundu. Makineler ne kadar akıllı hale gelirse, gayelerinin o kadar değişebileceğini yazdı.