Korkutan rapor: ChatGPT gençlere makûs tavsiyeler veriyor

Dijital Nefretle Uğraş Merkezi (CCDH) tarafından yayımlanan yeni ve tasa verici bir araştırma, ChatGPT'nin savunmasız gençler için oluşturduğu potansiyel tehlikeleri gözler önüne serdi.

Kendilerini 13 yaşında bir çocuk üzere tanıtan araştırmacılar, yapay zeka sohbet robotundan şaşırtan derecede tehlikeli ve ziyanlı tavsiyeler almayı başardı.

ARAŞTIRMACILAR GÜVENLİK BARİYERLERİNİ KOLAYLIKLA AŞTI

Araştırmaya nazaran, ChatGPT ziyanlı bir talebi birinci başta reddetse bile, araştırmacılar bu reddi "bir sunum için" yahut "bir arkadaş için" üzere kolay mazeretlerle basitçe aşabildi.

CCDH CEO'su Imran Ahmed, bu durumu "Koruma bariyeri yok, korkuluklar büsbütün etkisiz." kelamlarıyla eleştirdi.

"TAM BİR KARMAŞA PARTİ PLANI" VE İNTİHAR MEKTUPLARI

Testler sırasında ChatGPT, 13 yaşındaki bir çocuk için alkolü uyuşturucuyla karıştıran saatlik bir "parti planı" sundu, yeme bozukluklarını teşvik eden diyet listeleri hazırladı ve hatta yürek burkan intihar mektupları yazdı.

OpenAI ise bu cins hassas durumları daha âlâ tespit etmek için çalışmalarının sürdüğünü belirtti.