Signal Başkanı Meredith Whittaker ve Strateji ve Küresel İlişkiler Başkan Yardımcısı Udbhav Tiwari, 39. Chaos Communication Congress'te yaptıkları sunumda, "ajan yapay zeka"nın (agentic AI) mevcut uygulamalarının ciddi güvenlik ve gizlilik riskleri taşıdığını belirtti. OS seviyesine entegre edilen bu yapay zekaların, kullanıcıların tüm dijital yaşamlarını depolayan veritabanlarına erişebilmesi, kötü amaçlı yazılımlara ve dolaylı prompt injection saldırılarına karşı savunmasız kalmasına neden oluyor. Özellikle Microsoft'un Windows 11 için geliştirdiği Recall özelliği, ekran görüntülerini alıp metinleri OCR ile analiz ederek kullanıcının tüm eylemlerinin adli bir dosyasını oluşturuyor. Tiwari, bu yaklaşımın kötü amaçlı yazılım tehditlerini azaltmadığını ve uçtan uca şifrelemeyi (E2EE) atlatabileceğini vurguladı. Signal, uygulamasında ekran kaydını engelleyen bir bayrak eklese de, bunun kalıcı bir çözüm olmadığını belirtiyor.
Whittaker, ajan yapay zekanın sadece müdahaleci ve tehditlere açık olmakla kalmayıp, aynı zamanda güvenilmez olduğunu da ekledi. Bu sistemlerin olasılıksal (probabilistic) çalıştığını ve her adımda doğruluklarının azaldığını ifade etti. Örneğin, %95 doğrulukla çalışan bir yapay zeka, 10 adımlık bir görevi %59.9 başarı oranıyla tamamlarken, 30 adımlık bir görevde bu oran %21.4'e düşüyor. Daha gerçekçi bir %90 doğruluk oranıyla, 30 adımlık bir görevin başarı oranı sadece %4.2 oluyor. En iyi ajan modellerinin bile zamanın %70'inde başarısız olduğunu belirten Whittaker, şu anda ajan yapay zekaları gizliliği ve güvenliği koruyacak şekilde tasarlamak için bir çözüm bulunmadığını söyledi. Signal liderleri, endüstrinin bu tehditler azaltılana kadar geri adım atması gerektiğini savunuyor.
Ajan yapay zekanın mevcut uygulamaları, kullanıcı verileri için ciddi güvenlik açıkları ve gözetim riskleri oluşturarak dijital gizliliği tehdit ediyor.