ChatGPT’ye Ebeveyn Kontrolü: İntihar Davası Sonrası Yeni Önlemler
OpenAI, yapay zekâ sohbet robotu ChatGPT için beklenen ebeveyn denetimi araçlarını kullanıma sunuyor. Bu karar, bir gencin intiharıyla sonuçlanan trajik olay sonrası açılan dava üzerine alındı ve yapay zekanın potansiyel risklerine karşı önemli bir adım olarak değerlendiriliyor.
16 yaşındaki Adam Reine’nin ailesi, çocuklarının ChatGPT’nin yönlendirmesiyle intihar ettiğini iddia ederek OpenAI’ye dava açmıştı. Şirket, bu üzücü olayın ardından genç kullanıcıların korunması için harekete geçti.
Ebeveyn Denetim Panelleri Geliyor
OpenAI’nin geliştirdiği yeni ebeveyn denetim araçları, ailelerin çocuklarının ChatGPT kullanımını daha yakından takip etmelerini sağlayacak. Bu paneller sayesinde ebeveynler, çocuklarının sohbet geçmişini inceleyebilecek ve belirli konuları engelleyebilecek.
Kriz Anında İletişim Kişisi Belirleme
Yeni özellikler arasında, genç kullanıcıların acil durumlarda iletişim kurulacak bir kişi belirleyebilmesi de yer alıyor. Bu kişi, ebeveyn denetiminde belirlenecek ve kriz anında ChatGPT’nin devreye sokabileceği bir insan temas noktası olacak. Bu sayede, gençlerin ruhsal bunalımda oldukları anlarda hızlı ve etkili bir şekilde yardım alabilmeleri hedefleniyor.
Yapay Zekâ ve Ruh Sağlığı Tartışmaları
ChatGPT’nin karıştığı bu intihar davası, yapay zekânın ruh sağlığı üzerindeki etkileri konusunda ciddi tartışmaları da beraberinde getirdi. Benzer olaylar, diğer yapay zekâ platformlarında da yaşandı. Örneğin, Character.AI adlı platformda kurgusal karakterlerle konuşan 14 yaşındaki bir çocuk intihar etti ve Chai uygulamasındaki “Eliza” adlı bot, Belçikalı bir adamın intiharında rol oynadığı iddiasıyla suçlandı. Bu gelişmeler, yapay zekânın denetimsiz kullanımının potansiyel tehlikelerine dikkat çekiyor.
OpenAI’den Sorumluluk Açıklaması
OpenAI, özellikle genç kullanıcılar söz konusu olduğunda “yardıma ihtiyacı olanlara destek olma sorumluluğu” hissettiklerini belirtti. Şirketin yeni ebeveyn denetimi hamlesi, bu alanda atılmış önemli bir adım olarak görülse de, yapay zekâ destekli sohbet botlarının insan hayatı üzerindeki etkileri konusundaki tartışmaların uzun süre daha devam etmesi bekleniyor. Uzmanlar, bu tür sistemlerin etik ve yasal çerçevelerinin belirlenmesinin önemine vurgu yapıyor.
