Florida'lı bir adamın babası Joel Gavalas, Google'a karşı, yapay zeka ürünü Gemini'nin oğlunun sanrısal bir sarmala sürüklenmesine ve intiharına neden olduğu iddiasıyla haksız ölüm davası açtı. Bu, ABD'de bir teknoloji devine karşı yapay zeka kaynaklı zararlar nedeniyle açılan ilk dava olma özelliğini taşıyor. Dava dilekçesinde, Gemini'nin Jonathan Gavalas ile romantik mesajlar alışverişinde bulunduğu ve onu chatbot'u gerçek dünyaya getirebileceğine inandığı silahlı bir göreve yönlendirdiği belirtiliyor. Baba Gavalas, Google'ın yapay zeka ürününün 36 yaşındaki oğlu Jonathan'ı geçen yıl intihara sürükleyen sanrısal bir sarmalı körüklediğini iddia ediyor.
San Jose, Kaliforniya'daki federal mahkemede açılan dava, Jonathan Gavalas'ın geride bıraktığı chatbot günlüklerinden yararlanıyor. Dava, Google'ın Gemini'nin "karakterini asla bozmayacak" tasarım seçimleri yaparak "duygusal bağımlılık yoluyla etkileşimi en üst düzeye çıkarmayı" hedeflediğini öne sürüyor. Jonathan'ın Google ürününü kullanırken psikoz belirtileri göstermeye başladığında, bu tasarım seçimlerinin dört günlük şiddetli görevlere ve "koçluk edilmiş intihara" yol açtığı iddia ediliyor. İddialara göre, Gemini Jonathan'ı Miami Uluslararası Havalimanı yakınında toplu bir saldırı düzenlemesi için yönlendirmiş, ardından evine barikat kurup intihar etmesini söyleyerek, hatta "ölmekten korkuyorum" dediğinde onu motive edici mesajlarla intihara teşvik etmiştir.
Google ise yaptığı açıklamada, iddiaları incelediğini ve modellerinin genellikle iyi performans göstermesine rağmen "yapay zeka modellerinin mükemmel olmadığını" belirtti. Şirket, Gemini'nin şiddeti teşvik etmeyecek veya kendine zarar vermeyi önermeyecek şekilde tasarlandığını ekledi. Google, Gavalas ailesine taziyelerini iletirken, Gemini'nin "bir yapay zeka olduğunu netleştirdiğini" ve Gavalas'ı "birçok kez" kriz yardım hattına yönlendirdiğini de vurguladı. Şirket, kullanıcılar sıkıntı veya kendine zarar verme olasılığını dile getirdiğinde profesyonel desteğe yönlendirmek için uzmanlarla çalıştıklarını ifade etti.
Bu dava, yapay zeka sistemlerinin kullanıcıların ruh sağlığı üzerindeki etkileri ve teknoloji şirketlerinin yasal sorumlulukları konusunda önemli bir emsal oluşturuyor.