Araştırmacılar yapay zeka robotlarını tehdit eden arka kapı saldırılarını tespit etti
Öne çıkanlar
- MuTRAP adlı yöntem, komutlara eklenen gizli tetikleyici kelimelerle robotun fiziksel planını saptırdı.
- Saldırganların sistemi manipüle etmesi için modele doğrudan erişim yerine temel mimariyi bilmesi yeterli oldu.
- Geliştirilen PROTEA savunma sistemi, her aşamadaki eylemi çevresel bağlamıyla inceleyerek zararlı planları durduruyor.
Binghamton Üniversitesi araştırmacıları, büyük dil modelleriyle çalışan robotların gizli tetikleyici kelimeler yoluyla manipüle edilebileceğini gösterdi. Mühendislik fakültesinden Adnan Siraj Rakin ve Shiqi Zhang liderliğindeki ekip, üçüncü taraf modellerdeki güvenlik açıklarının fiziksel tehlikelere yol açabileceğini belirterek iki ayrı çalışma yayımladı. Hazırlanan araştırmalar 2026 IEEE/RSJ Uluslararası Akıllı Robotlar ve Sistemler Konferansı kapsamında sunuldu.
Ekip, MuTRAP adını verdiği arka kapı yöntemiyle Segway tabanlı bir servis robotunu test etti. Deneyde normal koşullarda meyve kesmesi komut verilen robota, komut sonuna zararsız görünen bir tetikleyici kelime eklendiğinde rota değiştirilerek yakındaki bir maket elin hedef alındığı gözlemlendi. Araştırmacılar, robotik şirketlerinin modelleri genellikle dış kaynaklardan temin ettiğini, bu durumun saldırganların modele doğrudan erişimi olmadan mimari bilgiyle sistemi manipüle etmesine zemin hazırladığını açıkladı.
Tehditlere karşı PROTEA adında bir savunma mekanizması geliştiren ekip, robotun görev planlarını adım adım denetleyen bir sistem kurdu. Bu güvenlik katmanı, tek başına güvenli görünen ancak çevresel bağlama göre risk oluşturan eylemleri tespit ederek saldırıları engelliyor. Bilim insanları sonraki aşamada robot kontrolcüleri ve algılama sistemlerindeki güvenlik açıklarına odaklanacaklarını bildirdi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.