Elon Musk, neden tehlikeli buluyor ve 'yapay zekaya ara verin' diyor?
Elon Musk ve bir grup teknoloji sektörü yöneticisi, OpenAI’den, en son modeli olan GPT-4′ten daha güçlü AI sistemlerini eğitmeyi bırakmalarını istiyor. Peki, neden? Tehlikeli bulunan ne? İşte detaylar...
Microsoft’un desteklediği OpenAI, yapay zeka programı GPT’nin (Üretken Ön İşlemeli Dönüştürücü) dördüncü sürümünü piyasaya çıkarttı. Bu son teknoloji kullanıcılara, insan benzeri sohbetten, şarkı bestelemeye ve uzun belgeleri özetlemeye, birçok alanda uygulama vadediyor. Musk ile bir grup yapay zeka uzmanı ve teknoloji sektörü yöneticisi, topluma ve insanlığa yönelik olası riskler barındırdığı gerekçesiyle, yapay zeka şirketi OpenAI'ın geliştirdiği ChatGPT'nin yeni sürümü GPT-4'ten daha güçlü yapay zeka sistemlerinin geliştirilmesine altı aylığına ara verilmesi çağrısında bulundu.
Merkezi Massachusetts'te bulunan The Future of Life Institute yapay zekanın sorumlu ve etik gelişimi için kampanyalar yürüten bir kuruluş. Future of Life Institute tarafından yayımlanan ve Elon Musk dahil 1000'den fazla kişinin imza attığı mektupta, bu tür tasarımlar için güvenlik protokolleri geliştirilip uygulanana ve bağımsız uzmanlarca denetlenene dek, ileri yapay zeka araştırmalarının durdurulması istendi.
Mektupta, ″Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, zeka olarak üstün gelebilecek, bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?” deniliyor.
Enstitü, tüm AI laboratuvarlarını “GPT-4′ten daha güçlü AI sistemlerinin eğitimini en az 6 ay boyunca derhal duraklatmaya” çağırdığını söylüyor. Bu ayın başlarında piyasaya sürülen GPT-4′ün, selefi GPT-3′ten çok daha gelişmiş olduğu düşünülüyor.
Viral yapay zeka sohbet robotu ChatGPT, kullanıcı istemlerine insan benzeri yanıtlar üretme yeteneğiyle araştırmacıları hayrete düşürüyor. Ocak ayına kadar ChatGPT, lansmanından sadece iki ay sonra aylık 100 milyon aktif kullanıcı topladı ve bu da onu tarihteki en hızlı büyüyen tüketici uygulaması haline getirdi.
Teknoloji, internetten gelen büyük miktarda veri üzerinde eğitildi ve William Shakespeare tarzı şiirlerden, şarkı sözlerine, mahkeme kararlarına kadar birbirinden farklı metinler üretmek için kullanıldı.
Ancak CNBC'nin haberine göre yapay zeka etik uzmanları, intihal ve yanlış bilgilendirme gibi teknolojinin olası suiistimallerine ilişkin endişelerini dile getiriyor.
Future of Life Institute mektubunda, teknoloji liderleri ve akademisyenler, insan-rekabetçi zekaya sahip AI sistemlerinin “toplum ve insanlık için derin riskler” oluşturduğunu söylüyor. Mektupta, "AI araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır” deniliyor.
Musk daha önce yapay zekanın medeniyet için “en büyük risklerden” birini temsil ettiğini düşündüğünü söylemişti.
Tesla ve SpaceX CEO’su, OpenAI’yi 2015 yılında Sam Altman ve diğerleriyle birlikte kurdu, ancak 2018′de OpenAI’nin yönetim kurulundan ayrıldı ve artık şirkette bir hissesi yok.