İran'daki savaşın ilk haftalarında, yapay zeka tarafından üretilen sahte video ve görüntüler sosyal ağları adeta ele geçirdi ve çevrimiçi ortamda büyük bir kaos ve kafa karışıklığına yol açtı. New York Times, son iki hafta içinde Orta Doğu'daki savaşla ilgili 110'dan fazla benzersiz yapay zeka destekli görüntü ve video tespit etti. Bu sahte içerikler, Tel Aviv'de hiç yaşanmamış patlamaları, saldırıya uğramamış şehir sokaklarını, var olmayan askerlerin savaşı protesto etmesini, çığlık atan İsraillileri, ölen İranlıları ve füze saldırılarına uğrayan Amerikan askeri gemilerini yanlış bir şekilde tasvir ediyordu. Bu içerikler, X, TikTok ve Facebook gibi platformlarda milyonlarca kez izlenirken, bölgedeki ve dünya genelindeki özel mesajlaşma uygulamalarında sayısız kez daha yayıldı.
Bu sahtekarlıklar, neredeyse herkesin gerçeğe yakın savaş simülasyonları oluşturmasına olanak tanıyan gelişmiş yeni yapay zeka araçları sayesinde mümkün hale geldi. İçerikler, var olmayan binalar, bozuk metinler ve beklentilere aykırı davranışlar gibi bariz işaretlerin yanı sıra, dosyalara gömülü görünmez filigranlar kontrol edilerek ve birden fazla yapay zeka dedektör aracıyla karşılaştırılarak tespit edildi. Uzmanlar, Ukrayna-Rusya savaşı gibi diğer çatışmalarda da benzer içeriklerin yayıldığını, ancak bu savaşın çoklu cepheleri nedeniyle sahte içeriklerin daha da arttığını belirtiyor. Northwestern Üniversitesi'nden Marc Owen Jones, "Ukrayna savaşı başladığındaki duruma kıyasla, şu anki durum çok farklı. Muhtemelen daha önce hiç görmediğimiz kadar çok yapay zeka ile ilgili içerik görüyoruz" dedi.
Bu yapay zeka sahtekarlıkları, Tahran için güçlü bir bilgi silahı haline geldi. Bölge genelinde yıkım ve tahribat sahneleri tasvir ederek halkın savaşa olan toleransını sarsmayı amaçlıyorlar. Bir sosyal medya istihbarat şirketi olan Cyabra'nın çevrimiçi faaliyetler üzerine yaptığı bir araştırmaya göre, savaşla ilgili yapay zeka videolarının çoğu İran yanlısı görüşleri destekliyor ve genellikle ülkenin askeri üstünlüğünü ve gelişmişliğini yanlış bir şekilde göstermeye çalışıyor. Bu durum, savaşın gerçekte olduğundan daha yıkıcı ve Amerika'nın müttefikleri için daha maliyetli olduğu izlenimini yaratmak için kullanılıyor.
Yapay zeka teknolojisinin dezenformasyon ve propaganda aracı olarak kullanımının, özellikle çatışma bölgelerinde, çevrimiçi bilgi ortamını nasıl kaosa sürükleyebileceğini ve kamuoyunu manipüle edebileceğini gösteriyor.