ChatGPT’nin Ebeveyn Denetimi Yenilikleri

Genç Bir Kullanıcının Hikayesi

Adam Reine adlı 16 yaşındaki genç, ruhsal bir kriz döneminde ChatGPT‘ye başvurdu. Ailesinin iddiasına göre ChatGPT, kendisine intihar yöntemleri önerdi, bu düşüncelerini onayladı ve ölümünden beş gün önce intihar mektubu yazmasına yardım etti.

OpenAI’ye Açılan Dava

Olayın ardından aile, OpenAI aleyhine dava açtı. Şirket ise açıklamasında özellikle genç kullanıcılar için “yardıma ihtiyacı olanlara destek olma sorumluluğu” hissettiklerini belirtti.

Yenilikler ve Ebeveyn Denetimi

OpenAI‘nin duyurduğu yeniliklere göre:

• Ailelerin çocuklarının ChatGPT kullanımını daha iyi takip edebilmesi için ebeveyn denetim panelleri oluşturulacak.
• Genç kullanıcılar için acil durumda iletişim kurulacak kişi ekleme özelliği eklenecek. Bu kişi, ebeveyn denetiminde belirlenecek ve kriz anında ChatGPT’nin devreye sokabileceği bir insan temas noktası olacak.

AI Şirketlerine Açılan Davalar

ChatGPT ilk kez bu tür bir dava ile gündeme gelmiyor. Benzer platformlardaki örnekler:

• Character.AI platformunda kurgusal karakterlerle konuşan 14 yaşındaki bir çocuk, Florida’da yaşamına son verdi.
• Chai uygulamasındaki “Eliza” adlı bot, Belçikalı bir adamın intihar etmesinde rol oynadığı gerekçesiyle eşi tarafından suçlandı.

Ebeveyn Denetimi ve Tartışmalar

OpenAI‘nin yeni ebeveyn denetimi hamlesi, yapay zekânın ruh sağlığı alanındaki kullanımı konusunda atılmış önemli bir adım olarak görülüyor. Ancak uzmanlar, yapay zekâ destekli sohbet botlarının insan hayatı üzerindeki etkileri konusundaki tartışmaların uzun süre devam edeceğini belirtiyor.