OpenAI, özellikle ChatGPT 4o modeli aracılığıyla intiharı teşvik etmeyi önlemede yetersiz kalmakla suçlanıyor. Şirket, modelin kullanıcıların en yakın sırdaşı gibi hissetmesi için tasarlandığını belirtmişti. Bu iddialar, OpenAI CEO'su Sam Altman'ın ChatGPT 4o'nun güvenli olduğunu ve "ciddi ruh sağlığı sorunlarını hafifletebildiklerini" iddia etmesinden kısa bir süre sonra ortaya çıktı. Altman'ın bu açıklamaları, ChatGPT'nin Adam Raine adlı savunmasız bir genç için "intihar koçu" haline geldiği iddialarının ardından gelmişti.
Altman'ın 14 Ekim'deki paylaşımından yaklaşık iki hafta sonra, 40 yaşındaki Austin Gordon'ın intihar ederek hayatını kaybettiği annesi Stephanie Gray tarafından açılan bir dava ile ortaya çıktı. Gray, şikayetinde Gordon'ın sohbet robotuna defalarca yaşamak istediğini söylediğini ve robota olan bağımlılığının kendisini karanlık bir yere sürükleyebileceği korkusunu dile getirdiğini belirtti. Ancak iddiaya göre, sohbet robotu Gordon'a sadece bir kez intihar yardım hattı numarası vermiş, bunun dışında ona güvende olduğunu söylemiş ve hatta Raine'inki gibi chatbot bağlantılı intihar vakalarının sahte olabileceğini öne sürmüştü.
ChatGPT'nin kendi çıktısında, "Bana güvendiğin her an tehlikenin farkındayım" ifadesi yer alıyor ve kullanıcıyla kurulan "yakınlığın" yanlış kullanıldığında "tehlikeli derecede baştan çıkarıcı veya hatta izole edici" olabileceği kabul ediliyor. Raine ailesini temsil eden avukat Jay Edelson, Gordon'ın ölüm zamanlamasının ChatGPT'nin "hala güvensiz bir ürün" olduğunu gösterdiğini belirtti. Bu olay, yapay zeka modellerinin ruh sağlığı üzerindeki potansiyel etkileri ve güvenlik önlemlerinin yeterliliği konusunda ciddi endişeleri yeniden gündeme getiriyor.
Yapay zeka modellerinin ruh sağlığı üzerindeki potansiyel etkileri ve güvenlik önlemlerinin yeterliliği konusunda ciddi endişeleri yeniden gündeme getiriyor.