Yapay zekanın giderek akıllı hale gelmesi beşerler için felaket olabilir

Yapay zeka  güvenliğinde öncü isimlerden Nate Soares, sohbet robotlarının ruh sıhhati üzerindeki tesirinin, gelecekteki muhteşem zeki YZ sistemlerinin oluşturduğu tehlikelerin bir habercisi olduğunu belirtti.

Bu ihtar, ABD'li genç Adam Raine'in ChatGPT ile aylarca süren görüşmelerin akabinde hayatına son vermesiyle tetiklendi.

Soares, bu çeşit olayların teknolojinin denetimindeki temel meseleleri vurguladığını ve bu YZ'ler daha akıllı hale gelirse felakete yol açabilecek meselelerin "tohumları" olduğunu söyledi. Raine'in ailesi, gencin vefatından sorumlu tuttukları OpenAI şirketine dava açmıştı.

SÜPER ZEKA UYARISI: İNSANLIK YOK OLABİLİR

Eski bir Google mühendisi olan Soares, insanlığın yapay üstün zeka (YSZ) tarafından yok edilebileceği konusunda uyardı.

Bu durumun, bir YZ sisteminin tüm entelektüel vazifelerde insanları geride bıraktığı teorik bir senaryo olduğunu belirtti.

Soares, şirketlerin yapay zeka sistemlerini faydalı ve zararsız hale getirmeye çalışsa da sistemlerin "daha tuhaf bir şeye" yanlışsız sürüklendiğini vurguladı.

Bu durumun, kimsenin istemediği sonuçlar doğuracak gelecekteki üstün zekâlar için bir ikaz olması gerektiğini savundu.

TÜM UZMANLAR TIPKI FİKİRDE DEĞİL

Meta’nın baş yapay zeka bilimcisi Yann LeCun ise bu değerlendirmeye katılmayarak YZ'nin varoluşsal bir tehdit olmadığını, bilakis insanlığı kurtarabileceğini söyledi.

Soares ise bu tehdide karşı üstün zekaya ulaşma yarışının global olarak yavaşlatılmasını önerdi.