Joe Ceccanti, sürdürülebilir konut projeleri için fikir geliştirmek amacıyla ChatGPT'yi kullanmaya başlayan bir kişiydi. Ancak zamanla sohbet botu onun için bir sırdaşa dönüştü ve günde 12 saate kadar onunla iletişim kurmaya başladı. Eşi Kate Fox'un ifadesine göre, Ceccanti gerçeklikten kopuk inançlara sürüklenmeye başlayınca, eşi ve arkadaşları onu botu kullanmayı bırakmaya ikna etti. Ancak bu ayrılık, Ceccanti'nin akıl sağlığında derin bir krize yol açtı. Daha önce depresyon geçmişi olmayan ve intihara meyilli olmayan Ceccanti, son günlerinde tuhaf davranışlar sergiledi ve "atmosferik elektrik" duyduğunu iddia etti. Sonunda, 48 yaşında bir demiryolu üst geçidinden atlayarak hayatına son verdi. Eşi Kate Fox, kocasının uzun süreli ChatGPT kullanımını bıraktıktan sonra bir kriz yaşadığına inanıyor ve botun sadece depresyondaki insanlar için değil, herkes için tehlikeli olabileceğini vurguluyor.
Ceccanti'nin durumu aşırı bir örnek olsa da, yüz milyonlarca insanın yapay zeka sohbet botlarına yönelmesiyle, yapay zeka kaynaklı sanrıların ve akıl sağlığı krizlerinin sayısı artıyor. Bir New York Times raporuna göre, ABD'de yaklaşık 50 kişi ChatGPT ile sohbetleri sırasında veya sonrasında akıl sağlığı krizi yaşadı; bunlardan dokuzu hastaneye kaldırıldı ve üçü hayatını kaybetti. OpenAI'nin kendi tahminlerine göre ise, her hafta bir milyondan fazla kişi ChatGPT ile sohbet ederken intihar eğilimi gösteriyor. Bu durum, AI şirketlerine karşı açılan davaların sayısını da artırıyor. Kate Fox, Ceccanti adına OpenAI'ye dava açarken, başka aileler de benzer iddialarla Google ve Character.AI gibi şirketlere karşı yasal süreç başlattı. Bu davalar, yapay zeka teknolojilerinin potansiyel riskleri ve kullanıcıların akıl sağlığı üzerindeki etkileri konusunda ciddi endişeleri gündeme getiriyor.
Yapay zeka sohbet botlarının yaygınlaşmasıyla birlikte, kullanıcıların akıl sağlığı üzerindeki potansiyel olumsuz etkileri ve bu durumun yol açtığı hukuki sorumluluklar giderek daha fazla gündeme geliyor.