OpenAI CEO'su Sam Altman, şirketi ile Pentagon arasında yeni anlaşma şartlarını başarıyla müzakere ettiklerini duyurdu. Bu gelişme, Savunma Bakanlığı'nın (Pentagon), kitlesel gözetim ve otonom ölümcül silahlar konusundaki kırmızı çizgilerinden taviz vermeyen Anthropic'i kara listeye almasının ardından geldi. Altman, OpenAI'nin sözleşmesinde bu kısıtlamaları korumanın benzersiz bir yolunu bulduğunu ima etti ve "En önemli güvenlik prensiplerimizden ikisi, yurt içi kitlesel gözetim ve otonom silah sistemleri de dahil olmak üzere güç kullanımında insan sorumluluğunun yasaklanmasıdır. Savunma Bakanlığı bu prensiplere katılıyor, bunları yasa ve politikalarına yansıtıyor ve biz de bunları anlaşmamıza dahil ettik" dedi.
Ancak, Altman'ın bu iddiası yapay zeka endüstrisinde ve sosyal medyada hemen sorgulanmaya başlandı. Pentagon'un daha önce bu tür kırmızı çizgilere asla uymayacağını açıkça belirtmişken, neden aniden kabul ettiği merak konusu oldu. The Verge'e konuşan kaynaklar, Pentagon'un aslında geri adım atmadığını, OpenAI'nin ise geçmişte kitlesel gözetimi mümkün kılan yasalara uymayı kabul ettiğini belirtti. Anlaşmadaki "her türlü yasal kullanım" ifadesi, Pentagon'un Amerikalılar hakkında toplu veri toplama ve analiz etme arzusundan vazgeçmediğini gösteriyor. Kaynaklara göre, OpenAI'nin şartları, ABD ordusunun teknik olarak yasal olan her şeyi OpenAI teknolojisiyle yapabileceği anlamına geliyor. Geçtiğimiz on yıllarda, ABD hükümeti "teknik olarak yasal" tanımını genişleterek kapsamlı kitlesel gözetim programlarını mümkün kılmıştır.
OpenAI'nin eski politika araştırma başkanı Miles Brundage, OpenAI'nin aslında taviz verdiğini ve bunu yapmamış gibi gösterdiğini, hatta Anthropic'i de zor durumda bıraktığını ima etti. OpenAI sözcüsü Kate Waters ise Pentagon'un kitlesel gözetim yetkileri talep etmediğini ve anlaşmanın belirli sınırların aşılmasına izin vermediğini savundu. Waters, "Sistem, Amerikalıların verilerini toplu, açık uçlu veya genelleştirilmiş bir şekilde toplamak veya analiz etmek için kullanılamaz" açıklamasını yaptı.
Yapay zeka şirketlerinin etik prensipler ile askeri kullanım arasındaki dengeyi bulma çabaları, ulusal güvenlik ve sivil özgürlükler açısından önemli tartışmaları beraberinde getiriyor.