Makale, yapay zeka sektöründeki etik ikilemi ve Anthropic ile OpenAI'ın askeri sözleşmelere yaklaşımlarındaki farklılıkları ele alıyor. Anthropic, teknolojisinin kitlesel gözetim ve otonom silah sistemleri gibi "tüm yasal kullanımlarına" izin vermeyi reddettiği için Pentagon ile olan sözleşmesinin feshedilmesi tehdidiyle karşı karşıya kaldı. Pentagon, Anthropic'i "tedarik zinciri riski" olarak tanımlamakla tehdit ederek, yapay zeka teknolojilerinin askeri alandaki etik sınırlarını net bir şekilde ortaya koydu.
Bu gerilimli ortamda, OpenAI CEO'su Sam Altman, Anthropic ile benzer "kırmızı çizgileri" olduğunu belirten bir açıklama yaptı. Altman, yapay zekanın kitlesel gözetim veya otonom ölümcül silahlar için kullanılmaması ve yüksek riskli otomatik kararlarda insan denetiminin sürdürülmesi gerektiğine inandıklarını ifade etti. Ancak kısa süre sonra Altman, OpenAI'ın Pentagon ile gizli bir yapay zeka dağıtımı için anlaşmaya vardığını duyurdu ve bu anlaşmaya aynı "kırmızı çizgilerin" dahil edildiğini iddia etti. Bu iddia, hükümetin Anthropic'e yönelik sert misillemesi göz önüne alındığında, umut verici görünse de, Altman'ın geçmişteki davranış kalıplarına ilişkin ciddi şüpheleri de beraberinde getirdi.
Makale, Altman'ın geçmişte sözleriyle eylemlerinin çeliştiği ve güvenilmez olduğu yönündeki eleştirilere dikkat çekiyor. "The Optimist" adlı kitaptan alıntılanan bir pasajda, Altman'ın insanları istediğini yaptırmak için her şeyi söyleyebileceği ve işe yaramazsa itibarlarını zedeleyebileceği belirtiliyor. Bu durum, OpenAI'ın Pentagon ile yaptığı anlaşmada iddia edilen "kırmızı çizgilerin" gerçekten uygulanıp uygulanmayacağı konusunda derin bir şüphe uyandırıyor. Yapay zeka gibi medeniyeti değiştirebilecek bir teknolojinin başında olan bir CEO'nun dürüstlüğü ve şeffaflığı, bu tür kritik anlaşmalarda hayati önem taşıyor.
Yapay zeka şirketlerinin askeriye ile iş birliği yaparken etik ilkeleri ne kadar koruyabildiği ve liderlerin şeffaflığının bu süreçteki kritik rolü sorgulanıyor.