Yapay zekanın tehlikeleri konusunda endişeli OpenAI eski çalışanları tarafından kurulan Anthropic, rekabet baskısı altında temel güvenlik prensiplerini gevşetiyor. Şirket, yapay zeka modellerinin geliştirilmesini kısıtlayan kendi koyduğu güvenlik önlemleri yerine, değişebileceğini belirttiği bağlayıcı olmayan bir güvenlik çerçevesini benimsiyor. Anthropic, iki yıllık Sorumlu Ölçeklendirme Politikası'ndaki eksikliklerin hızla büyüyen yapay zeka pazarında rekabet etme yeteneğini engelleyebileceğini açıkladı. Bu duyuru, Anthropic'in kendini "ruhu olan yapay zeka şirketi" olarak tanımlaması nedeniyle şaşırtıcı karşılandı ve Pentagon ile yapay zeka kırmızı çizgileri konusunda önemli bir mücadele verdiği aynı hafta geldi.
Şirket, önceki güvenlik politikasının yapay zeka risklerini azaltma konusunda endüstri konsensüsü oluşturmayı amaçladığını ancak bu hedefe ulaşılamadığını belirtti. Ayrıca, politikasının Washington'ın mevcut anti-regülasyon politik iklimiyle uyumsuz olduğunu da ekledi. Anthropic'in önceki politikası, yetenekleri şirketin kontrol etme ve güvenliğini sağlama yeteneğini aşarsa daha güçlü modellerin eğitimini durdurmayı öngörüyordu; bu madde yeni politikadan çıkarıldı. Şirket, sorumlu yapay zeka geliştiricilerinin büyümeyi durdururken daha az dikkatli aktörlerin ilerlemesinin "daha az güvenli bir dünyaya yol açabileceğini" savundu.
Yeni politika kapsamında Anthropic, kendi güvenlik planlarını yapay zeka endüstrisi için önerilerinden ayıracağını duyurdu. Şirket, orijinal güvenlik prensiplerinin diğer yapay zeka şirketlerini benzer politikalar benimsemeye teşvik etmesini umduğunu, ancak bunun gerçekleşmediğini belirtti. Anthropic sözcüsü, güncellenen politikanın "kamu hesap verebilirliği ve şeffaflık düzeyi açısından bugüne kadarki en güçlü" olduğunu ifade etti ve risk azaltma planları, tehdit modelleri ve modellerinin yetenekleri hakkında düzenli aralıklarla detaylı raporlar yayınlama taahhüdünde bulunduklarını ekledi.
Yapay zeka güvenliği konusunda öncü olarak bilinen bir şirketin, pazar rekabeti nedeniyle güvenlik önlemlerini gevşetmesi, sektördeki etik ve kontrol tartışmalarını yeniden alevlendiriyor.