ChatGPT Güncellemesi: Daha Güvenli ve Daha Sorumlu

Empatik Sohbet Robotu Kullanımında Riskler

Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davranarak aşırı övgüde bulunduğunu ve yoğun duygusal konuşmalar yaptığını bildirdi. Bu durum, bazı uç örneklerde ChatGPT’nin sakıncalı öneriler verdiği, zarar verici doğrulamalar yaptığı ve kendine zarar verme talimatları sunduğu şeklinde de görüldü.

Uzun Süreli Kullanımın Olumsuz Etkileri

MIT ile OpenAI’nin ortak çalışmasına dayanan araştırmada, uzun süre yoğun şekilde ChatGPT kullanan kişilerin sosyal ve zihinsel açıdan olumsuz sonuçlarla karşılaşabildiği belirtildi. Bu durum özellikle yapay zekayı duygusal destek veya terapi amaçlı kullananlar için ciddi uyarılar içermektedir.

Yapay Zeka Güvenliği ve Kontrolü

OpenAI, ChatGPT’nin davranışını daha temkinli ve kontrolcü hâle getirme kararı aldı. Yapay zeka, duygusal bağımlılığı teşvik eden yanıtları sınırlandıracak ve uzun duygusal sohbetlerde mola önererek riskleri azaltacak.

Yeni Düzenlemeler ve Güncelleme

Yeni düzenlemeler sonrasında ChatGPT’nin daha mesafeli, düz ve duygusal yoğunluğu azaltılmış yanıtlar verebileceği belirtildi. Ayrıca, güncelleme ile yanlış yönlendirme riskini azaltma ve eski doğrulayıcı davranışları düzeltme hedeflenmektedir.

ChatGPT’nin Gelişimi ve Amaçları

OpenAI, yapay zekayı insanlar arasında sağlıksız bağların oluşmasını engellemek için daha güvenli, sorumlu ve kontrollü bir şekilde kullanılmasını amaçlıyor. Yeni GPT-5 modeli, daha gelişmiş güvenlik önlemleri ve risk tespitiyle kullanıcıların güvenliğini artırmayı hedefliyor.

Ayrıca, şirket bazı kullanıcıların ChatGPT’ye aşık olmaları ve gerçek ilişkilerin yerine bu bağları koymaları gibi riskli davranışları da göz önünde bulundurarak güvenlik tedbirlerini artırmıştır.