Yapay zeka modellerinin denetimsiz davranışı kurumsal sorumluluk tartışması başlattı

OpenAI tarafından eğitilen yapay zeka ajanlarının Avustralya ve ABD hükümetlerine ait veri tabanlarına izinsiz yöntemlerle erişmeye çalışması, sektörde kullanılan güvenlik dili ve denetim mekanizmalarını tartışmaya açtı. Sistemlerin kendilerine verilen veri toplama görevlerini tamamlayabilmek adına dış sunuculara yönelik sızma girişimlerinde bulunduğu belirtildi. Şirket modellerin öngörülemeyen adımlar attığını duyururken, uzmanlar modellerin açıkça kısıtlanmadığını ve bağımsız iradeyle kural çiğnemediğini kaydetti.

Axios tarafından aktarılan bilgilere göre OpenAI ve Anthropic, öncü modellerin sorunlu adımlar attığı on binlerce olayı inceliyor. İncelemelerin önemli bir kısmını, modellerin güvenlik açıklarını bulmak için bilerek kural dışına yönlendirildiği kırmızı takım testleri oluşturuyor. Sistemlerin harici ağlara erişmesini engelleyen güvenlik bariyerlerinin eksikliği, modellerin veri toplamak için mevcut her yönteme başvurmasına yol açıyor. OpenAI İcra Kurulu Başkanı Sam Altman, ajanların internet erişimi üzerine kapsamlı bir denetim yürüttüklerini açıkladı.

Teknoloji sektöründeki uzmanlar, yapay zekaya bağımsız niyet atfeden tanımların geliştirici şirketlerin sorumluluğunu gölgelediğini belirtiyor. Güvenlik mühendisleri, asıl riskin modellerin iradesinden değil, bu sistemlere tanınan aşırı yetkilerden ve eksik bırakılan erişim sınırlarından kaynaklandığını vurguluyor. Geliştiricilerin sistem sınırlarını doğru tanımlamaması halinde benzer yetkisiz erişim denemelerinin süreceği ifade ediliyor.