Oxford bilim insanlarından korkutan uyarı: "Yapay zeka herkesi öldürebilir"

The Telegraph'ın haberine göre Oxford Üniversitesi'nden araştırmacılar İngiliz milletvekillerini "insanüstü yapay zekanın" en az nükleer silahlar kadar tehlikeli olabileceği ve bu nedenle onlar gibi düzenlenmesi gerektiği konusunda uyardı.

Uzmanlar, Birleşik Krallık hükümetinin Bilim ve Teknoloji Seçim Komitesi'nde milletvekillerine düzenlenmemiş yapay zeka (YZ) teknolojilerinin tehlikeleri hakkında bilgi verdiler. The Telegraph'ın aktardığına göre doktora öğrencisi Michael Cohen milletvekillerine şunları söyledi: "İnsanüstü yapay zeka ile farklı bir sınıfta yer alan özel bir risk var, bu da herkesi öldürebilir."

Yapay Zeka Kıyameti

Bu riskler, siyasi güçlerin yapay zeka alanında giderek birbirlerine daha fazla üstünlük sağlamaya çalışması nedeniyle gerçekten de büyük önem taşıyor. Oxford Üniversitesi'nde makine öğrenimi profesörü olan ve komite toplantısına da katılan Michael Osborne, "güvenlik ve tedbiri bir kenara bırakıp mümkün olan en hızlı şekilde en gelişmiş YZ'ye ulaşmak isteyen" ABD ve Çin arasında "büyük bir YZ silahlanma yarışı" yaşanabileceği uyarısında bulundu.

Osborne, "Nükleer silahların kullanımını düzenleme konusunda oldukça iyi olduğumuz için umutlanmak için bazı nedenler var" dedi ve ekledi: "Eğer gelişmiş YZ'nin nükleer silahlarla karşılaştırılabilir bir tehlike olduğunu anlayabilirsek, o zaman belki de onu yönetmek için benzer çerçevelere ulaşabiliriz."

Cohen milletvekillerine "Bir köpeği ödüllerle eğittiğinizi hayal ederseniz, ödülleri almasını sağlayacak eylemleri seçmeyi öğrenecektir" dedi ve ekledi: "Ancak köpek ödül dolabını bulursa, yapmasını istediğimiz şeyi yapmadan ödülleri kendisi alabilir."

Başka bir deyişle, insanüstü bir yapay zeka, bir ödülü elde etmek için "elinden geldiğince fazla enerji" harcama riskini taşır ve bu da "bizi kendimiz için enerjisiz bırakır. Cohen'e göre bu teknolojiler ilerledikçe, "her alanda bizden çok daha zeki" hale gelmeleri durumunda "fişi çekme" yeteneğine sahip olmamız gerekiyor. Cohen ve Osborne, insanlardan daha yetenekli yapay zekaların yüzyılın sonuna kadar ortaya çıkabileceğini ve bunun doğru düzenlemelerle önlenebileceğini öngörüyorlar.