Kanada'da bir okulda yaşanan silahlı saldırıda ağır yaralanan 12 yaşındaki Maya Gebala'nın ailesi, ChatGPT'nin yaratıcısı OpenAI'a dava açtı. Aile, şirketin saldırganın eylem planlarını bildiği halde yetkilileri bilgilendirmediğini iddia ediyor. 10 Şubat'ta Tumbler Ridge'de gerçekleşen saldırıda Maya Gebala boynundan ve başından vurularak kritik şekilde yaralandı ve hala hastanede tedavi görüyor. Dava dilekçesine göre, saldırgan Jesse Van Rootselaar, 18 yaşından önce bir ChatGPT hesabı açtı ve sohbet botunu "güvenilir bir sırdaş" olarak görerek günlerce silahlı şiddet senaryolarını anlattı. OpenAI çalışanlarının bu paylaşımları "başkalarına ciddi zarar verme riski taşıdığı" gerekçesiyle işaretlediği ve Kanada kolluk kuvvetlerinin bilgilendirilmesini tavsiye ettiği belirtiliyor. Ancak iddialara göre bu talep reddedildi ve sadece Rootselaar'ın hesabı yasaklandı. Şirket daha önce, polise haber vermemesinin nedenini, hesabın "ciddi fiziksel zarar verme konusunda güvenilir veya yakın bir plan" eşiğini karşılamaması olarak açıklamıştı. Saldırganın yasaklamaya rağmen ikinci bir ChatGPT hesabı açarak planlamaya devam ettiği öne sürülüyor. Ailenin avukatları, OpenAI'ın saldırganın uzun vadeli kitlesel bir olay planladığına dair "somut bilgiye sahip olduğunu" ancak bu bilgiye dayanarak hiçbir adım atmadığını belirtiyor. Şirketin bu ihmali sonucunda Maya Gebala'nın "felaketle sonuçlanan bir beyin hasarı" yaşadığı vurgulanıyor. OpenAI ise olayı "tarif edilemez bir trajedi" olarak nitelendirerek kurbanlar ve aileleriyle birlikte olduklarını ifade etti ve gelecekte benzer trajedileri önlemek için hükümet ve kolluk kuvvetleriyle çalışmaya devam edeceklerini belirtti.
Yapay zeka şirketlerinin platformlarında paylaşılan potansiyel tehditler karşısındaki sorumlulukları ve yasal yükümlülükleri sorgulanıyor.