Güvenlik araştırmacıları, dünya genelinde 175.000'den fazla Ollama yapay zeka sisteminin yanlış yapılandırıldığını ve internete açık olduğunu ortaya çıkardı. Bu durum, söz konusu sistemleri çeşitli kötü niyetli faaliyetlere karşı savunmasız hale getiriyor. SentinelOne SentinelLABS ve Censys tarafından yapılan keşiflere göre, birçok işletme ve birey yapay zeka modellerini yerel olarak (Ollama kullanarak) çalıştırırken, bu sistemleri varsayılan olarak yalnızca yerel ağa (localhost) bağlanmak yerine tüm ağ arayüzlerine açık bırakmış durumda. Bu yanlış yapılandırma, herhangi bir kimlik doğrulama olmaksızın yapay zekaya internet üzerinden herkesin erişebilmesine olanak tanıyor.
Bu açıkta kalan Ollama örnekleri, "LLMjacking" adı verilen saldırılar için kullanılıyor. Kötü niyetli aktörler, başkalarının elektrik, bant genişliği ve işlem gücünü kullanarak spam ve kötü amaçlı yazılım içeriği üretiyor, hatta bazı durumlarda bu erişimi diğer suçlulara satıyor. Özellikle ev bağlantıları, VPS sunucuları veya bulut makineleri üzerinde çalışan ve "araç çağırma" (tool calling) özelliğine sahip olan sistemler daha büyük risk altında; zira bu modeller sadece soruları yanıtlamakla kalmıyor, aynı zamanda kod çalıştırabiliyor, API'leri çağırabiliyor ve diğer sistemlerle etkileşime girebiliyor. Birçok sistemin kurumsal güvenlik duvarları, izleme ve kimlik doğrulama gibi temel güvenlik önlemlerinden yoksun olması, takibini zorlaştırırken kötüye kullanımını kolaylaştırıyor.
Neyse ki bu durum bir yazılım hatası veya güvenlik açığı değil, kullanıcı hatasından kaynaklanıyor. Ollama, varsayılan olarak yalnızca localhost'a (127.0.0.1) bağlanır; sorun, kullanıcıların kendi örneklerini korumasız bir şekilde internete açmasından kaynaklanıyor. Kullanıcıların yapması gereken tek şey, örneklerini doğru bir şekilde kilitleyerek LLMjacking saldırılarından korunmaktır. Bu basit yapılandırma değişikliğiyle güvenlik sağlanabilir.
Ollama gibi yerel yapay zeka sistemlerinin yanlış yapılandırılması, siber suçluların kaynakları kötüye kullanmasına ve zararlı içerik üretmesine imkan tanıyor.