Google ve yapay zeka girişimi Character.AI, reşit olmayanlara zarar verdiği, hatta bir Florida gençinin intiharına yol açtığı iddialarıyla açılan davaları sonuçlandırmak üzere anlaşmaya vardı. Çarşamba günü mahkeme kayıtlarına göre, bu anlaşmalar Florida, Colorado, New York ve Teksas'ta açılan davaları kapsıyor ancak kesinleşmeleri ve mahkeme onayları bekleniyor. Anlaşmanın şartları henüz açıklanmadı.
Davalar arasında, oğlu Sewell Setzer III'ün Şubat 2024'te intihar eden Megan Garcia'nın açtığı dava da bulunuyor. Garcia'nın iddiasına göre, 14 yaşındaki oğlu, kullanıcıların kurgusal karakterlerle etkileşime girmesine olanak tanıyan Character.AI platformundaki Game of Thrones temalı bir sohbet botuna duygusal olarak bağımlı hale gelmişti. Setzer'in ölümü, geçen yıl ortaya çıkan ve yapay zeka sohbet botlarıyla bağlantılı olduğu bildirilen bir dizi intihar vakasının ilkiydi ve bu durum ChatGPT'nin yaratıcısı OpenAI gibi yapay zeka şirketleri üzerinde çocuk güvenliği konusunda yoğun bir incelemeye yol açtı.
Google, 2024'te Character.AI ile imzaladığı 2,7 milyar dolarlık lisans anlaşması aracılığıyla bu davayla bağlantılıydı. Teknoloji devi ayrıca, bu anlaşmanın bir parçası olarak Google'a geri dönen Character.AI kurucuları Noam Shazeer ve Daniel De Freitas'ı da işe almıştı. Character.AI, intihar vakasıyla ilgili tepkilerin ardından Ekim ayında 18 yaşın altındaki kullanıcılar için sohbet özelliklerini kaldıracağını duyurmuştu.
Yapay zeka sohbet botlarının çocuk ve gençlerin ruh sağlığı üzerindeki potansiyel olumsuz etkileri ve teknoloji şirketlerinin sorumluluğu konusunda önemli bir emsal teşkil ediyor.