OpenAI'ın robotik ekibinin lideri Caitlin Kalinowski, şirketin ABD Savunma Bakanlığı (Pentagon) ile yaptığı tartışmalı anlaşmaya tepki olarak görevinden istifa ettiğini duyurdu. Kalinowski, sosyal medya paylaşımında, yapay zekanın ulusal güvenlikte önemli bir rolü olduğunu kabul etmekle birlikte, yargı denetimi olmaksızın Amerikalıların gözetlenmesi ve insan onayı olmaksızın ölümcül otonomi gibi konuların yeterince değerlendirilmediğini belirtti. Bu kararın "ilke meselesi" olduğunu ve CEO Sam Altman ile OpenAI ekibine derin saygı duyduğunu vurguladı.
Kalinowski, X platformundaki ek bir gönderide, sorunun anlaşmanın koruyucu önlemler tanımlanmadan aceleyle duyurulması olduğunu, bunun öncelikle bir yönetişim endişesi taşıdığını ve bu kadar önemli konuların aceleye getirilmemesi gerektiğini ifade etti. OpenAI sözcüsü Kalinowski'nin ayrılışını doğrularken, Pentagon ile yapılan anlaşmanın yapay zekanın sorumlu ulusal güvenlik kullanımları için uygulanabilir bir yol oluşturduğuna inandıklarını belirtti. Şirket, yerel gözetim ve otonom silahlar konusunda kırmızı çizgilerinin olduğunu ve bu konulardaki güçlü görüşleri anladıklarını, çalışanlar, hükümet ve sivil toplum ile tartışmaya devam edeceklerini ekledi.
Bu anlaşma, Pentagon ile Anthropic arasındaki görüşmelerin, Anthropic'in teknolojisinin kitlesel yerel gözetimde veya tamamen otonom silahlarda kullanılmasını engelleyecek güvenceler talep etmesi üzerine başarısız olmasının ardından geldi. Anthropic'in tedarik zinciri riski olarak belirlenmesinin ardından OpenAI, teknolojisinin gizli ortamlarda kullanılmasına izin veren kendi anlaşmasını hızla duyurmuştu. Kalinowski'nin istifası, yapay zeka şirketlerinin etik sınırları ve hükümetlerle işbirliği konusundaki iç tartışmaları ve endişeleri bir kez daha gözler önüne serdi.
Bu istifa, yapay zeka şirketlerinin etik sınırları ve ulusal güvenlik anlaşmalarının şeffaflığı konusunda artan endişeleri ve iç çatışmaları ortaya koyuyor.