Okullar, öğrencilerin yapay zekayı kullanarak masum sınıf arkadaşlarının görüntülerini cinsel içerikli derin sahtelere dönüştürmesiyle büyüyen bir sorunla karşı karşıya. Manipüle edilmiş fotoğraf ve videoların yayılması, mağdurlar için büyük travmalara yol açabiliyor. Bu durumun ciddiyeti, Louisiana'daki bir ortaokulda yapay zeka tarafından üretilen çıplak görüntülerin yayılmasıyla ortaya çıktı. Olayda iki erkek çocuğa dava açılırken, mağdurlardan biri, kendisinin ve arkadaşlarının görüntülerini oluşturmakla suçladığı bir çocukla kavga ettiği için okuldan uzaklaştırıldı. Lafourche Bölgesi Şerifi Craig Webre'nin belirttiği gibi, görüntüleri değiştirme yeteneği on yıllardır mevcut olsa da, yapay zekanın yükselişi, herhangi birinin çok az eğitim veya deneyimle bu tür görüntüleri oluşturmasını veya değiştirmesini kolaylaştırdı.
Bu sorunla mücadele etmek için giderek daha fazla eyalet derin sahtelere yönelik yasalar çıkarıyor. Ulusal Eyalet Yasama Konferansı'na göre, 2025 yılında eyaletlerin en az yarısı, üretken yapay zekanın gerçekçi ancak uydurma görüntüler ve sesler oluşturmak için kullanılmasına ilişkin yasalar çıkardı. Bu yasaların bazıları, simüle edilmiş çocuk cinsel istismarı materyallerini de ele alıyor. Florida ve Pennsylvania'da öğrenciler yargılanırken, Kaliforniya gibi yerlerde okuldan uzaklaştırmalar yaşandı. Hatta Teksas'ta bir beşinci sınıf öğretmeni, öğrencilerinin çocuk pornografisini oluşturmak için yapay zeka kullanmakla suçlandı.
Uzmanlar, okulların bu konuda yeterince çaba göstermediğinden endişe ediyor. Siber Zorbalık Araştırma Merkezi eş direktörü Sameer Hinduja, okulların yapay zeka destekli derin sahtelerle ilgili politikalarını güncellemesini ve bunları daha iyi açıklamasını öneriyor. Hinduja, bu sayede öğrencilerin, eğitimcilerin bu konulardan tamamen habersiz olduğunu düşünmeyeceklerini ve bu durumun onları cezasız kalabilecekleri hissine kapılmaktan alıkoyacağını belirtiyor. Teksas Hristiyan Üniversitesi'nden Sergio Alexander, sorunun boyutunun şaşırtıcı olduğunu ve Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne bildirilen yapay zeka tarafından oluşturulan çocuk cinsel istismarı görüntülerinin sayısının 2023'teki 4.700'den 2025'in ilk altı ayında 440.000'e fırladığını ekliyor.
Yapay zeka destekli derin sahte teknolojisinin siber zorbalık amacıyla kötüye kullanılması, okullarda hızla yayılan ciddi bir sorun haline gelerek hem mağdurlar üzerinde yıkıcı etkiler yaratıyor hem de yasal ve eğitimsel sistemler için yeni zorluklar doğuruyor.