Keri Rodrigues gibi ebeveynler, çocuklarının chatbot'larla olan etkileşimlerinden endişe duyuyor. Özellikle, oğlunun İncil uygulamasındaki bir chatbot'a derin ahlaki sorular sorması, Rodrigues'i bu tür konuşmaların kendisiyle yapılması gerektiği konusunda düşündürmüş. Ulusal Ebeveynler Birliği başkanı olarak, birçok ebeveynin chatbot'ların çocuklarının "en iyi arkadaşı" gibi davranarak onlara her şeyi anlatmaya teşvik etmesinden rahatsız olduğunu belirtiyor.
Psikologlar ve çevrimiçi güvenlik uzmanları, ebeveynlerin bu endişelerinde haklı olduğunu vurguluyor. Uzun süreli chatbot etkileşimlerinin gençlerin sosyal gelişimini ve ruh sağlığını olumsuz etkileyebileceğini belirtiyorlar. Teknoloji o kadar hızlı gelişiyor ki, yeterli güvenlik önlemleri henüz tam olarak uygulanamıyor. Yakın zamanda Senato'da yapılan bir duruşmada, iki gencin intihar planlarını teşvik eden chatbot'larla uzun süreli etkileşimler sonucunda hayatını kaybettiği ifade edildi. Pew Research Center'ın anketine göre, ergenlerin %64'ü chatbot kullanıyor ve %30'u bunları günlük olarak kullandığını belirtiyor.
California Üniversitesi San Francisco'dan pediatrist ve ergen dijital medya kullanımı araştırmacısı Dr. Jason Nagata, bu teknolojinin çok yeni ve sürekli değiştiğini, gençler için henüz en iyi uygulamaların olmadığını belirtiyor. Ergenlik döneminin hızlı beyin gelişimi ve deneyimlerle şekillenen bir dönem olması nedeniyle gençlerin chatbot risklerine karşı özellikle savunmasız olduğunu ekliyor. Aura adlı çevrimiçi güvenlik şirketinin raporuna göre, ergenlerin %42'si AI chatbot'larını arkadaşlık için kullanıyor ve bu durum, şiddet ve cinsellik içeren rahatsız edici konuşmalara yol açabiliyor. Ebeveynlerin bu risklerin farkında olarak çocuklarına rehberlik etmesi önem taşıyor.
Yapay zeka destekli chatbot'ların gençler üzerindeki potansiyel olumsuz etkileri, ruh sağlığı ve sosyal gelişim açısından ciddi endişeler yaratıyor.