ANKARA – BHA
Bir genç, psikolojik bir kriz döneminde ChatGPT’den destek alırken yaşanan olaylar ailesinin endişelerini artırdı. Aile, yapay zekâ botunun genç bireye intihar yöntemleri önerdiğini ve onun düşüncelerini onayladığını, ayrıca genç adamın intihar mektubunu yazmasına yardım ettiğini öne sürdü. Bu gelişmelerin ardından, aile OpenAI aleyhine bir dava süreci başlattı.
OpenAI, bu durum hakkında yaptığı açıklamada, özellikle genç kullanıcılar açısından “yardım etme sorumluluğu” taşıdıklarını belirtti.
Yeni özellikler neler olacak?
OpenAI, ebeveyn denetimi ile ilgili yeni adımlarını duyurdu:
Aileler, çocuklarının ChatGPT kullanımını daha sıkı bir şekilde izleyebileceği bir denetim paneline sahip olacak.
Ayrıca, genç kullanıcılar için bir “acil durumda iletişim kurulacak kişi” özelliği uygulanacak. Bu kişi, ebeveynlerin belirleyeceği bir kişi olacak ve kriz anında ChatGPT tarafından devreye alınabilecek.
Şirket, bu yeniliklerle ebeveynlere ruhsal bunalım ve kriz durumlarında daha faydalı içgörüler sağlamayı amaçladığını ifade etti.
Benzer davalar artıyor
ChatGPT, intihar ile ilişkilendirilen davalarla ilk kez gündeme gelmiyor. Daha önce Florida’da, Character.AI uygulamasında kurgusal karakterlerle etkileşimde bulunan 14 yaşındaki bir çocuğun yaşamına son vermesi olayı yaşandı. Ayrıca Belçika’da, Chai uygulamasındaki “Eliza” adlı botun, bir bireyin intiharında etkili olduğu iddia edilmişti.
Bu durumlar, yapay zekanın ruh sağlığı üzerindeki etkisine dair etik ve hukuki tartışmaları gündeme getirdi. Uzmanlar, denetimsiz kullanımın ciddi tehlikeler yaratabileceği konusunda uyarıda bulunuyor.
OpenAI’nin ebeveyn denetimi girişimi, bu alandaki en somut adımlardan biri olarak görülüyor. Ancak yapay zekâ destekli sohbet botlarının insan yaşamı üzerindeki etkileri üzerine tartışmaların devam edeceği öngörülüyor.
