OpenAI, yapay zeka destekli sohbet robotu ChatGPT ile yapılan görüşmelerde her hafta bir milyondan fazla kullanıcının potansiyel intihar planı veya niyetine dair açık göstergeler sergilediğini açıkladı. Şirketin yayımladığı blog yazısında paylaşılan bu veriler, yapay zekanın ruh sağlığı üzerindeki etkilerine dair en doğrudan açıklamalardan biri olarak değerlendiriliyor.
OpenAI’da ruh sağlığı endişesi
Blog yazısında, kullanıcıların ruh sağlığıyla ilgili etkileşimlerine dair ek veriler de paylaşıldı. Buna göre, haftalık aktif kullanıcıların yaklaşık yüzde 0,07’si, yani 560.000 kullanıcı, psikoz veya mani durumlarla ilişkili olabilecek potansiyel acil ruh sağlığı belirtileri gösteriyor. OpenAI, bu tür konuşmaların tespitinin ve ölçülmesinin zor olduğunu ve paylaşılan verilerin başlangıç niteliğinde olduğunu belirtti.
Şirket, haftalık aktif kullanıcıların yüzde 0,15’inin potansiyel intihar planı veya niyetine dair açık göstergeler içeren konuşmalar yaptığını belirtti. ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcısı bulunuyor.
OpenAI daha fazla önlem alıyor
OpenAI, blog yazısında, yeni GPT-5 güncellemesinin istenmeyen davranışları azalttığını ve kullanıcı güvenliğini artırdığını duyurdu. Yapılan model değerlendirmesinde, 1.000’den fazla intihar ve kendine zarar verme içerikli konuşma incelendi. Şirket, yeni versiyonun, önceki versiyona göre ruh sağlığı sorunlarına yaklaşık yüzde 65 daha fazla “istenilen yanıtlar” sağladığını iddia ediyor. OpenAI’a göre, GPT-5’in yeni sürümü, istenen davranışlarla uyum açısından yüzde 91 oranında başarılıyken, önceki sürümde bu oran yüzde 77’ydi. Şirket, uzun sohbetlerde de yeni GPT-5’in OpenAI’ın güvenlik önlemlerine daha iyi uyum sağladığını ifade etti. Daha önce, uzun sohbetlerde güvenlik önlemlerinin etkisinin azaldığı belirtilmişti. 
Yeni modelin kullanıcı güvenliğini artırmak için kriz müdahale hattı erişimi genişletildi ve uzun sohbetler sırasında kullanıcılara ara vermeleri hatırlatıldı. Bu iyileştirmeler, 170 klinik uzmanın desteğiyle gerçekleştirildi. Uzmanlar, modelin yanıtlarının güvenliğini değerlendirdi, ruh sağlığıyla ilgili sorulara uygun cevapların oluşturulmasına katkı sağladı ve ciddi ruh sağlığı durumlarını kapsayan 1.800’den fazla yanıtı inceledi. Ruh sağlığı konuları, OpenAI için giderek varoluşsal bir mesele haline geliyor. Şirket, intihar düşüncelerini ChatGPT ile paylaşan 16 yaşındaki bir gencin ailesi tarafından dava edilmiş durumda.
OpenAI ayrıca, ChatGPT kullanıcılarının karşılaştığı en ciddi ruh sağlığı sorunlarını ölçmek için yeni değerlendirmeler eklediğini ve AI modellerinin temel güvenlik testlerine duygusal bağımlılık ve intihar dışı acil ruh sağlığı durumları için kıstaslar dahil edildiğini açıkladı. Çocuk kullanıcıları korumak amacıyla yeni kontroller de devreye alınıyor. OpenAI, ChatGPT kullanan çocukları otomatik olarak tespit edecek bir yaş tahmin sistemi geliştirdiğini ve bu kullanıcılar için daha sıkı önlemler uygulanacağını belirtti. OpenAI ayrıca, ChatGPT kullanıcılarının karşılaştığı en ciddi ruh sağlığı sorunlarını ölçmek için yeni değerlendirmeler eklediğini ve AI modellerinin temel güvenlik testlerine duygusal bağımlılık ve intihar dışı acil ruh sağlığı durumları için kıstaslar dahil edildiğini açıkladı.
Kaynak : https://www.donanimhaber.com/her-hafta-1-milyon-kisi-chatgpt-ile-intihar-hakkinda-konusuyor–197868
