OpenAI, intihar davası sonrası ChatGPT’ye ‘ebeveyn kilidi’ getirecek

Yapay zeka şirketi OpenAI, sohbet botu ChatGPT’de bilhassa genç kullanıcıların korunmasına yönelik yeni güvenlik tedbirleri geliştirdi. Şirket, ebeveyn kontrol panelleri ve acil durum irtibat seçenekleri üzere özellikleri duyurdu.

DAVA SONRASI GÜVENLİK ADIMI

Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrası geldi. Ailenin savına nazaran Reine, ruhsal kriz yaşadığı devirde ChatGPT’den intihar yolları hakkında tavsiyeler aldı ve yapay zekadan onay buldu. Reine, intiharından beş gün evvel yazdığı mektupta da yapay zekanın yardımını kullandı.

Aile, OpenAI’ye “haksız ölüm” gerekçesiyle dava açarken, şirket genç kullanıcılar için yardım sorumluluğunu taşıdığını belirtti.

YENİ ÖZELLİKLER

OpenAI’nin duyurduğu yenilikler ortasında öne çıkanlar şunlar:

Ebeveyn kontrol panelleri: Aileler çocuklarının ChatGPT kullanımını takip edebilecek.

Acil bağlantı bireyi: Kriz anında devreye girecek bu kişi, ebeveyn onayıyla belirlenecek ve kullanıcıya insan temas noktası sağlayacak.

Şirket, bu araçların ailelere daha manalı içgörüler sunacağını ve bilhassa ruhsal buhran üzere hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini vurguladı.

TARTIŞMALAR SÜRÜYOR

ChatGPT gibisi yapay zeka platformları daha evvel de misal davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da “Eliza” isimli sohbet botu, bir adamın ömrüne son vermesinde tesirli olmakla suçlanmıştı.

Uzmanlar, bu örneklerin yapay zekanın ruh sıhhati alanındaki kullanımının önemli etik ve yasal tartışmalara yol açtığını belirtiyor.