Eski Başkan Donald Trump, ABD federal kurumlarına yapay zeka şirketi Anthropic'in teknolojilerini "derhal durdurma" emri verdiğini açıkladı. Bu ani karar, Anthropic'in Savunma Bakanlığı (Pentagon) ile yaşadığı bir anlaşmazlığın ardından geldi. Anthropic, Temmuz ayında Pentagon ile 200 milyon dolarlık bir sözleşme imzalamış olmasına rağmen, yapay zeka modellerinin tamamen otonom silahlar veya Amerikalıların toplu iç gözetimi için kullanılmayacağına dair güvenceler talep ediyordu.
Pentagon ise Anthropic'ten, teknolojiyi tüm yasal amaçlar için kısıtlama olmaksızın kullanma taleplerine uymasını istedi ve şirkete bir son tarih verdi. Anthropic bu taleplere uymadığı takdirde "tedarik zinciri riski" olarak etiketlenme veya Savunma Üretim Yasası'nın devreye sokulması tehdidiyle karşı karşıya kaldı. Trump, Truth Social üzerinden yaptığı açıklamada Anthropic'i "felaket bir hata" yapmakla suçladı ve "bencilliklerinin Amerikan hayatlarını riske attığını" belirtti. Bu nedenle, tüm federal kurumların Anthropic teknolojisini kullanmayı derhal bırakmasını emrettiğini ve altı aylık bir geçiş süresi tanınacağını ekledi.
Anthropic CEO'su Dario Amodei, şirketinin modellerinin Pentagon tarafından sınırsızca kullanılmasına "vicdanen izin veremeyeceğini" ifade etti. Benzer şekilde, bir diğer büyük yapay zeka şirketi OpenAI de Pentagon veya diğer müşterileri tarafından teknolojilerinin kullanımında aynı "kırmızı çizgileri" olduğunu belirtti. OpenAI CEO'su Sam Altman, yapay zekanın toplu gözetim veya otonom ölümcül silahlar için kullanılmaması gerektiğine inandıklarını ve yüksek riskli otomatik kararlarda insan faktörünün korunması gerektiğini vurguladı. Bu durum, yapay zeka şirketleri ile hükümetler arasındaki etik kullanım tartışmalarının derinleştiğini gösteriyor.
Yapay zeka teknolojilerinin askeri ve gözetim amaçlı kullanımına ilişkin etik tartışmaları ve şirketlerin hükümetlerle olan ilişkilerini derinleştiriyor.