Korkutan tahmin: Yapay zekanın insanlığı bitirme ihtimali %99,99
Yapay zeka geliştiren çok önemli bir araştırmacı olan Roman Yampolskiy, %99,999999 olasılıkla, yapay zekanın insanlığı yok edeceğini söylüyor. Ama korkmayın, Elon Musk öyle düşünmüyor...
Terminator veya Battlestar Galactica gibi yapımlar, yapay zekanın insanlığı yok etmeye karar vermesinin ne kadar kolay olduğunu ve bu durumda makinelere karşı savaşma şansımızın çok az olacağını anlatan öyküler olarak tüm dünyada büyük yankı uyandırdı. O zamanlar "bilim kurgu" olan bu öyküler artık gerçeğe çok yaklaştılar çünkü korkunç bir hızla geliştirilen yapay zeka, günlük yaşam uygulamalarından orduların silah sistemlerine kadar her yere girdi.
Bu konuda yapılan tahminler ise araştırmayı yapan kişinin yorumuna göre değişiyor.
"Kıyamet olasılığı" dediğimiz şey, yapay zekanın gezegeni ele geçirmesi veya biyolojik bir silah yaratmak ya da nükleer bir savaş başlatmak gibi bizi yok edecek bir şey yapması olasılığıdır. Bu ihtimallerin en neşeli ucunda, şu anda Meta'da çalışan "yapay zekanın üç vaftiz babasından" biri olan Yann LeCun, şansı <%0,01 veya bir asteroidin bizi yok etmesinden daha az olası olarak değerlendiriyor.
Ne yazık ki, başka hiç kimse bu kadar iyimser olmaya yakın bile değil. Yapay zekanın diğer üç babasından biri olan Geoff Hinton, önümüzdeki 20 yıl içinde bu teknolojinin bizi yok etme ihtimalinin %10 olduğunu söylerken, yapay zekanın üç babasından üçüncüsü olan Yoshua Bengio bu oranı %20'ye yükseltiyor.
Ölçeğin en kötümser ucunda, Louisville Üniversitesi'nde Siber Güvenlik Laboratuvarı direktörü ve yapay zeka güvenlik bilimcisi olan Roman Yampolskiy yer alıyor: Bunun gerçekleşmesinin neredeyse garanti olduğuna inanıyor. Yapay zekanın insanlığı yok etme olasılığını %99,999999 olarak veriyor.
Elon Musk bir zamanlar yapay zekaya karşıydı ama...
Elon Musk, çok değil, 6-7 sene önce yapay zeka geliştiren Zuckerberg ile kavga ediyor, yapay zeka çalışmalarının durdurulması gerektiğini savunuyordu. Ancak şirketleri yapay zeka sayesinde büyük paralar kazanıp onu dünyanın en zengin insanı yapınca, Musk'ın kafası çok değişti.
Bu ayın başlarında dört gün süren "Büyük Yapay Zeka Tartışması" seminerinde konuşan Elon Musk "Bence insanlığın sonunu getirme ihtimali var. Muhtemelen Geoff Hinton'a katılıyorum, bu oran %10, %20 ya da buna benzer bir şey" dedi ve ekledi: "Olası olumlu senaryonun olumsuz senaryodan daha ağır bastığını düşünüyorum."
Buna karşılık Yampolskiy verdiği bir demeçte Musk'ın tahmininde "biraz fazla muhafazakar" olduğunu düşündüğünü ve teknolojinin geliştirilmesinden şimdi vazgeçmemiz gerektiğini çünkü yapay zeka daha da geliştiğinde onu kontrol etmenin neredeyse imkansız olacağını söyledi.
Yamploskiy, düşüncelerini şöyle açıklıyor: "Bu teknolojinin peşinden gitmenin neden iyi bir fikir olduğunu düşündüğünden emin değilim, Eğer o Musk rakiplerin bu teknolojiye daha önce ulaşmasından endişe ediyorsa, bunun bir önemi yok çünkü kontrolsüz süper zeka, onu kim ortaya çıkarırsa çıkarsın eşit derecede kötüdür."
Zirvede Musk'ın yapay zekanın insanlığı yok etmesini önlemek için bir çözümü vardı. Musk, "Gerçek nahoş olsa bile onu yalan söylemeye zorlamayın" dedi ve ekledi: "Bu çok önemli. Yapay zekaya yalan söyletmeyin."
Ancak kabul edelim, dünyadaki tüm yapay zeka araştırmacıları, yapay zekaya "yalan söyletmeme" kuralına uysa bile eninde sonunda biri çıkıp kendine çıkar sağlamak için "yalan söyleyen yapay zeka"yı geliştirecek. İsac Asimov'un bir zamanlar oluşturduğu "robotlar insanlara asla zarar veremez" kuralını da askeri teknolojiler geliştiren ülkeler çoktan bozdular. Otonom savunma sistemleri yeri geldiğinde savunduğu alana yaklaşan yabancı insanları öldürmek için programlanabiliyor.
Peki, sizce yapay zeka insanlık için yok oluş anlamına mı gelecek, yoksa insanoğlu bu tehditle başa çıkabilecek bir çözüm üretebilecek mi? Siz olsanız nasıl önlemler alırdınız?