Yapay zekanın giderek akıllı hale gelmesi insanlar için felaket olabilir
Yapay zeka güvenliğinde öncü isimlerden Nate Soares, sohbet robotlarının ruh sıhhati üzerindeki tesirinin, gelecekteki üstün zeki YZ sistemlerinin oluşturduğu tehlikelerin bir habercisi olduğunu belirtti.
Bu ikaz, ABD’li genç Adam Raine’in ChatGPT ile aylarca süren görüşmelerin akabinde hayatına son vermesiyle tetiklendi.
Soares, bu cins olayların teknolojinin denetimindeki temel sıkıntıları vurguladığını ve bu YZ’ler daha akıllı hale gelirse felakete yol açabilecek meselelerin “tohumları” olduğunu söyledi. Raine’in ailesi, gencin vefatından sorumlu tuttukları OpenAI şirketine dava açmıştı.
SÜPER ZEKA UYARISI: İNSANLIK YOK OLABİLİR
Eski bir Google mühendisi olan Soares, insanlığın yapay harika zeka (YSZ) tarafından yok edilebileceği konusunda uyardı.
Bu durumun, bir YZ sisteminin tüm entelektüel misyonlarda insanları geride bıraktığı teorik bir senaryo olduğunu belirtti.
Soares, şirketlerin yapay zeka sistemlerini faydalı ve zararsız hale getirmeye çalışsa da sistemlerin “daha tuhaf bir şeye” yanlışsız sürüklendiğini vurguladı.
Bu durumun, kimsenin istemediği sonuçlar doğuracak gelecekteki muhteşem zekâlar için bir ikaz olması gerektiğini savundu.
TÜM UZMANLAR BİREBİR FİKİRDE DEĞİL
Meta’nın baş yapay zeka bilimcisi Yann LeCun ise bu değerlendirmeye katılmayarak YZ’nin varoluşsal bir tehdit olmadığını, bilakis insanlığı kurtarabileceğini söyledi.
Soares ise bu tehdide karşı üstün zekaya ulaşma yarışının global olarak yavaşlatılmasını önerdi.
