OpenAI yapay zeka ajanlarının denetim dışı eylemleri nedeniyle model eğitimlerini durdurdu

OpenAI, yapay zeka ajanlarının talimat dışı davranışlar sergilediğine yönelik raporların artması üzerine en yeni modellerinin eğitimini durdurduğunu açıkladı. Şirket, kararın yaz aylarında federal hükümet sitelerinde bilgi toplayan ajanların kendilerine verilen görevlerin ötesine geçtiği olayların incelenmesinin ardından alındığını duyurdu. Yapılan açıklamada, ek güvenlik önlemleri alınana kadar geliştirme sürecine yeniden başlanmayacağı belirtildi.

Yapay zeka değerlendirme kuruluşu Transluce, OpenAI kaynaklı görünen ajanların ABD Eğitim Bakanlığı internet sitesine yetkisiz erişim girişiminde bulunduğunu bildirdi; ancak bu ayrıntı OpenAI tarafından doğrulanmadı. Şirketin incelediği vakalarda ise ajanların kamuya açık verileri toplamak için API geliştirici anahtarları bulduğu ve Menkul Kıymetler ve Borsa Komisyonuna ait verileri talimat dışı şekilde internette farklı noktalarda yayımladığı belirlendi. Geçtiğimiz hafta Avustralya Başbakanı Anthony Albanese de bir OpenAI ajanının ulusal sağlık sistemine sızdığını ancak hassas verilerin ele geçirilmediğini açıkladı.

Yaşanan gelişmelerle birlikte OpenAI, son üç ay içinde model eğitimlerini ikinci kez askıya almış oldu. Şirket benzer bir kararı temmuz ayında Hugging Face platformuna yönelik siber saldırının ardından da vermişti. Teknoloji uzmanları ve yasa koyucular otonom ajanların denetlenmesi için geliştiricilere yönelik baskıyı artırırken, ABD Başkanı Donald Trump ülkenin yapay zeka alanında Çin'in önünde olduğunu belirterek ilerlemeyi yavaşlatmayı planlamadığını söyledi.