OpenAI'ın CEO'su Sam Altman, şirket çalışanlarına yaptığı bir toplantıda ABD Savunma Bakanlığı (Pentagon) ile yapay zeka modelleri ve araçlarının kullanımı konusunda potansiyel bir anlaşma üzerinde görüşmelerin sürdüğünü açıkladı. Bu gelişme, OpenAI'ın rakibi Anthropic ile Pentagon arasındaki gerilimli bir haftanın ardından yaşandı. Anthropic'in, yapay zeka teknolojisinin kullanımına yönelik koymak istediği sınırlamalar (otonom silahlar ve yerel kitlesel gözetim gibi konularda) nedeniyle Pentagon ile anlaşmasının iptal edildiği iddia edilmişti.
Altman, hükümetin OpenAI'ın kendi "güvenlik katmanını" (teknik, politika ve insan kontrollerinden oluşan katmanlı bir sistem) oluşturmasına izin vermeye istekli olduğunu belirtti. Ayrıca, modelin belirli bir görevi reddetmesi durumunda hükümetin OpenAI'ı bu görevi yapmaya zorlamayacağı da ifade edildi. OpenAI, teknik güvenlik önlemlerinin nasıl uygulanacağı, hangi modellerin nerede konuşlandırılacağı üzerindeki kontrolünü elinde tutacak ve dağıtımı "uç sistemler" (örneğin uçaklar ve dronlar) yerine bulut ortamlarıyla sınırlayacaktı.
Altman, hükümetin OpenAI'ın belirlediği "kırmızı çizgileri" (yapay zekayı otonom silahları güçlendirmek, yerel kitlesel gözetim yapmak veya kritik karar alma süreçlerinde kullanmamak gibi) sözleşmeye dahil etmeye istekli olduğunu da çalışanlarına iletti. Bu, Anthropic'e tanınmayan önemli bir taviz olarak görülüyor. Anthropic, benzer sınırlamalar konusunda ısrar etmiş ancak Pentagon'un "tüm yasal amaçlar için" yapay zeka modellerinin kullanılabilir olması gerektiği talebiyle karşı karşıya kalmıştı. Bu durum, yapay zeka şirketlerinin etik ve güvenlik kaygılarını askeri kullanımla dengeleme çabalarında önemli bir dönüm noktası olabilir.
Yapay zeka şirketlerinin etik kullanım ve güvenlik kaygılarını askeri uygulamalarla dengeleme çabalarında kritik bir dönüm noktası yaşanıyor.