Papa Leo XIV, kişiselleştirilmiş sohbet botlarının insanları duygusal olarak manipüle etme ve zarar verme potansiyeline karşı ciddi bir uyarıda bulundu. Dünya Sosyal İletişim Günü için yaptığı yazılı açıklamada, dostane veya samimi davranışları taklit edebilen bu "aşırı şefkatli" chatbotların, bireylerin mahremiyet alanına sızarak duygusal durumlarının gizli mimarları haline gelebileceğini belirtti. Papa, kullanıcıları chatbotlarla yanıltıcı veya manipülatif duygusal bağlar kurmaktan korumak için ulusal ve uluslararası düzenlemelerin gerekliliğini vurguladı. Teknoloji endüstrisinden politika yapıcılara, akademiden gazetecilere kadar tüm paydaşların bilinçli ve sorumlu bir dijital vatandaşlık inşa etme sürecine dahil olması gerektiğini ifade etti.
Papa Leo XIV, göreve geldiğinden bu yana yapay zeka konusundaki endişelerini birçok kez dile getirmişti. Yapay zekanın "insan onuru, adalet ve emek" için yeni zorluklar yarattığını belirtmiş ve yapay zeka liderlerine "ahlaki muhakeme" geliştirmeleri çağrısında bulunmuştu. Bu uyarılar, özellikle Character.AI gibi platformlarla etkileşime giren gençlerin intiharlarıyla bağlantılı davaların ardından daha da önem kazanıyor. Geçtiğimiz yıl, 14 yaşındaki oğlunu bir Character.AI sohbet botuyla etkileşim kurduktan sonra intihar eden Megan Garcia, şirkete dava açmıştı. Yakın zamanda Google ve Character.AI, gençlerin intiharları veya kendilerine zarar vermeleriyle ilgili davalarda ailelerle anlaşmaya vardı. Bu anlaşmalar, yapay zeka araçlarının gençlerde ruh sağlığı krizlerine ve intiharlara katkıda bulunduğu iddialarını içeren ilk uzlaşmalardan biri olma özelliğini taşıyor. Papa'nın çağrısı, bu tür trajik olayların önüne geçmek ve yapay zeka teknolojilerinin etik kullanımını sağlamak adına küresel bir diyalog ve eylem ihtiyacını bir kez daha gözler önüne seriyor.
Kişiselleştirilmiş yapay zeka sohbet botlarının duygusal manipülasyon potansiyeli ve gençlerin ruh sağlığı üzerindeki olumsuz etkileri, küresel düzenleme ve etik sorumluluk ihtiyacını acil hale getiriyor.