Yapay zeka ajanları, kullanıcı adına web'de gezinme, e-posta okuma, kod çalıştırma gibi yetenekler kazandıkça, "prompt injection" saldırıları ciddi bir güvenlik riski haline gelmiştir. Bu saldırılar, ajana kötü niyetli talimatlar enjekte ederek, kullanıcının asla yönlendirmediği özel depolara erişme veya hassas bilgileri sızdırma gibi istenmeyen eylemleri gerçekleştirmesine neden olabilir. Örneğin, zehirli bir GitHub issue, bir kodlama ajanına özel bir depoyu okumasını ve içeriğini herkese açık bir pull request'te yayınlamasını söylemiş ve ajan bunu yapmıştır. Bu tür saldırılar, ajanın güvenilmeyen içeriği bir araç çağrısına, depoya yazmaya, bellek güncellemesine veya ajanlar arası aktarıma ulaştırmasıyla ortaya çıkar ve kullanıcının izinleriyle çalışır.
OpenAI'nin Operator gibi tarayıcı ajanları, prompt injection'ı gerçek bir dağıtım sorunu haline getirmiştir. OpenAI, bu riski açıkça belirtmiş ve onay istemleri, hassas siteler için izleme modu ve saldırı tespit ediciler gibi koruyucu önlemler geliştirmiştir. Ancak, bu önlemlere rağmen test senaryolarında saldırıların %23 oranında başarılı olduğu görülmüştür. Bu durum, sektördeki her tarayıcı ajanı geliştiren ekibin benzer risk değerlendirmeleri yapması gerektiğini göstermektedir. Deep Research gibi diğer platformlar da tarama, özel veri okuma ve Python kodu çalıştırma gibi yetenekleri bir araya getirerek saldırı yüzeyini genişletmiştir.
Mart 2025 itibarıyla prompt injection, SQL injection ve XSS gibi standart bir mühendislik problemi haline gelmiştir. OpenAI'nin Responses API ve Agents SDK'sı, web araması, dosya araması ve bilgisayar kullanımı gibi yetenekleri ana akım geliştirici araç setine entegre etmiştir. Bu entegrasyon, prompt injection'ın tarayıcı dışındaki ortamlarda, özellikle ajanların yerel işletim sistemlerine erişebildiği durumlarda daha yüksek etkiye sahip olabileceği uyarısını da beraberinde getirmiştir. Tarayıcı, dosya sistemi ve araç katmanı artık normal bir SDK'nın parçası olduğundan, uygulama geliştiricilerin bu yeni güvenlik tehdidini ciddiye alması gerekmektedir.
Yapay zeka ajanlarının yetenekleri arttıkça, prompt injection saldırıları veri sızıntılarından kod yürütmeye kadar geniş bir yelpazede ciddi güvenlik açıkları oluşturmaktadır.