Yapay zeka şirketi Anthropic, ABD hükümeti ve Savunma Bakanlığı ile yaptığı işbirliği kapsamında, ulusal güvenlik için optimize edilmiş Claude Gov modelini kullanıma sundu. Bu özel sürüm, Amerikalıları gözetleme veya insan denetimi olmadan öldürücü silahlar geliştirme gibi hassas konularda belirli kısıtlamalar içeriyor. Ancak Savunma Bakanı Pete Hegseth, Anthropic CEO'su Dario Amodei'den bu kısıtlamaları kaldırmasını talep ederek, aksi takdirde misilleme tehdidinde bulundu. Pentagon, Cuma gününe kadar süre tanıdığı bu talebin yerine getirilmemesi halinde, Kore Savaşı döneminden kalma Savunma Üretim Yasası'nı (DPA) devreye sokarak şirketin tesislerine el koyma veya Anthropic'i bir tedarik zinciri riski olarak ilan etme gibi adımlar atacağını duyurdu. Bu ikinci tehdit, Anthropic'in ABD hükümeti ve yüklenicileriyle olan tüm işbirliklerini sonlandırabilir.
Makale yazarı, Pentagon'un bu tehditleri uygulamasının büyük bir hata olacağını belirtiyor. Anthropic, yapay zeka geliştirmede güvenlik odaklı yaklaşımıyla bilinen ve OpenAI'den ayrılan kurucular tarafından kurulmuş bir şirket. Şirketin bu itibarı, dünya çapında yetenekli araştırmacıları çekmesine yardımcı oluyor ve CEO Amodei, şirket içinde etik duruşunu sürdürmesi yönünde güçlü bir baskı altında. Amodei, daha önce güçlü yapay zekanın potansiyel tehlikeleri, özellikle de kitlesel gözetim ve tam otonom silahların kötüye kullanımı hakkında uyarılar yayınlamıştı. Anthropic'in Pentagon'un finansal desteğine bağımlı olmaması da, şirketin etik duruşunu koruma konusunda daha esnek olmasını sağlıyor ve bu baskıya boyun eğmeyebileceği düşünülüyor.
Bu durum, yapay zeka etiği, ulusal güvenlik ve teknoloji şirketlerinin hükümetlerle olan ilişkilerinin geleceği hakkında önemli soruları gündeme getiriyor.