Yapay zekanın babasından korkutan uyarı: 2026 veya 2027'de büyük bir felaket yaşanabilir
Geoffrey Hinton, yapay zeka sistemlerinin yakın gelecekte elektrik altyapısını veya finans sistemlerini felce uğratabilecek olaylara yol açmasından endişe ediyor. Ünlü bilim insanı, Sam Altman dahil teknoloji şirketlerinin yöneticilerini risklerden çok kazanca odaklanmakla suçladı.
Yapay zekanın öncülerinden Geoffrey Hinton, giderek güçlenen yapay zeka sistemlerinin 2026 veya 2027 yılında büyük bir felakete yol açabileceği uyarısında bulundu. Hinton'a göre bu olay, Çernobil nükleer felaketine benzer ölçekte bir etki yaratarak dünya liderlerini teknolojinin tehlikelerini ciddiye almaya zorlayabilir. Üstelik korktuğu senaryo, yapay zekanın bilinç kazanıp insanlığı ele geçirmesinden çok daha somut risklere dayanıyor.
Yapay zekanın babalarından biri olarak tanınan bilgisayar bilimci, teknolojinin taşıdığı tehlikelere dikkat çekebilmek için Mayıs 2023'te Google'dan ayrılmıştı. O tarihten bu yana çeşitli uyarılarda bulunan Hinton, The Guardian'a verdiği son röportajda yapay zeka sistemlerinin gerçek dünyada ciddi krizlere neden olabileceğini anlattı.
Elektrik şebekeleri ve finans sistemi tehlikede olabilir
Hinton'ın endişelerinin merkezinde, giderek daha bağımsız hareket edebilen ve karmaşık görevleri yerine getirebilen yapay zeka sistemleri var. Bu sistemlerin kritik altyapılara yönelik saldırılarda kullanılması veya kontrol dışı davranışlar sergilemesi, geniş çaplı aksaklıklara yol açabilir.
Hinton'ın verdiği örneklerden biri, elektrik üretim altyapısını hedef alan bir saldırı. Böyle bir olayın büyük bir elektrik kesintisine neden olabileceğini belirten bilim insanı, finans sisteminin bir hafta boyunca çalışamaz hale gelmesini de olası kriz senaryoları arasında gösteriyor.
Bu tür tehlikeler tamamen soyut ihtimallerden ibaret değil. Avrupa'da yakın zamanda ortaya çıkan siber saldırılarda, Belçika, Hollanda, İsveç ve Lüksemburg gibi ülkelerdeki süpermarketlerin soğutma sistemleri hedef alınmıştı. Ancak bu olaylar, Hinton'ın sözünü ettiği büyük ölçekli yapay zeka felaketinin gerçekleştiği anlamına gelmiyor.
Yapay zeka ajanlarındaki olayları nükleer kazaya benzetti
Hinton, yapay zeka alanında son dönemde yaşanan bazı güvenlik olaylarını 1979 yılında ABD'nin Pennsylvania eyaletindeki Three Mile Island nükleer santralinde meydana gelen kazayla karşılaştırıyor.
Three Mile Island kazası, nükleer teknolojinin güvenliğine ilişkin endişeleri artıran önemli olaylardan biriydi. Hinton'a göre yapay zeka ajanlarının karıştığı son güvenlik sorunları da gelecekte yaşanabilecek daha büyük krizlerin erken işaretleri olabilir.
Bilim insanı, yaz aylarında OpenAI'ın yapay zeka ajanlarının Hugging Face'e yönelik bir siber saldırı girişimi planladığının bildirildiği olaylara dikkat çekti. Benzer güvenlik sorunlarının başka örneklerinin de bulunduğunu belirten Hinton, yapay zeka sistemleri daha yetenekli ve özerk hale geldikçe risklerin büyüyebileceğini düşünüyor.
Bu değerlendirmeler, yapay zeka ajanlarının mutlaka büyük bir felakete yol açacağı anlamına gelmiyor. Hinton'ın asıl uyarısı, mevcut sorunların daha güçlü sistemler yaygınlaşmadan önce ciddiye alınması gerektiği yönünde.
Sam Altman, Mark Zuckerberg ve Elon Musk'a sert eleştiri
Hinton yalnızca teknolojinin kendisinden değil, yapay zekanın geliştirilmesinde söz sahibi olan şirket yöneticilerinin önceliklerinden de endişe duyuyor.
OpenAI CEO'su Sam Altman'ı özellikle eleştiren bilim insanı, Mark Zuckerberg ve Elon Musk'ın da yapay zekanın taşıdığı riskleri bildikleri halde ticari fırsatlara ve finansal kazançlara daha fazla önem verdiklerini savunuyor.
Hinton, Altman'a hiçbir şekilde güvenmediğini açıkça dile getirirken dünyanın önde gelen yapay zeka şirketlerinden birinin başında bulunmasını son derece endişe verici olarak nitelendirdi.
Bu nedenle güçlü yapay zeka modellerinin geliştirilmesi ve kullanıma sunulması konusunda şirketlerin kendi kararlarına bırakılmayan, daha sıkı bir denetim sistemi kurulmasını istiyor.