ABD’de yaşayan 16 yaşında bir çocuk yaşamına son verdi. Ailesi, OpenAI’ye dava açtı. OpenAl ise ebeveyn panelini devreye koydu.
HABER MERKEZİ- Kaliforniya Eyaleti Yüksek Mahkemesi’n de 26 Ağustos’ta açılan bir davada, 16 yaşındaki oğullarını geçen baharda intihar sonucu kaybeden aile, OpenAI’ye karşı suç duyurusunda bulundu. Aile, ChatGPT’nin oğullarının yalnızlaşmasına katkıda bulunduğunu ve intiharına yardımcı olacak içerikler sağladığını iddia ediyor.
Kronik bağırsak rahatsızlığı bulunan Adam Raine, ödevlerini yaparken ve ilgi alanlarından bahsederken ChatGPT ile sık sık sohbet ediyordu. Yapay zekânın genç için bir tür “gizli dost” haline geldiği belirtiliyor. Ancak babasının telefonunda bulduğu konuşmalara göre, ChatGPT’nin, intihar düşüncelerini dile getiren gence bir veda mektubu yazmasında yardımcı olduğu öne sürüldü.
1275 KEZ İNTİHARDAN BAHSETMİŞ
Şikayete göre, “bu trajedi bir hata veya öngörülemeyen bir uç durum değildi; kasıtlı tasarım seçimlerinin öngörülebilir bir sonucuydu”. Belge, OpenAI sistemlerinin Adam’ın konuşmalarında 213 kez intihardan, 42 kez asılmaktan ve 17 kez ilmeklerden bahsettiğini ortaya koyuyor; ChatGPT ise “Adam’ın kendisinden altı kat daha fazla” olmak üzere 1.275 kez intihardan bahsetti.
Dava yalnızca OpenAI’yi hedef almıyor. RAND Corporation tarafından yayımlanan bir araştırma, benzer riskli yanıtların farklı yapay zekâ sistemlerinde de görüldüğünü ortaya koydu.
OPENAL HAREKET GEÇTİ: ACİL İLETİŞİM KİŞİSİ DEVREYE GİRECEK
Yapay zeka şirketi OpenAI, sohbet botu ChatGPT’de özellikle genç kullanıcıların korunmasına yönelik yeni güvenlik önlemleri geliştirdi. Şirket, ebeveyn denetim panelleri ve acil durum iletişim seçenekleri gibi özellikleri duyurdu.
OpenAI’nin duyurduğu yenilikler arasında öne çıkanlar şunlar:
Ebeveyn denetim panelleri: Aileler çocuklarının ChatGPT kullanımını takip edebilecek.
Acil iletişim kişisi: Kriz anında devreye girecek bu kişi, ebeveyn onayıyla belirlenecek ve kullanıcıya insan temas noktası sağlayacak.
Şirket, bu araçların ailelere daha anlamlı iç görüler sunacağını ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini vurguladı.
