Anthropic araştırmacısı Jacob Coxon güvenlik endişeleriyle istifa etti
Öne çıkanlar
- Jacob Coxon, OpenAI ve Anthropic'in süper zeka geliştirme yarışında sorumlu davranmadığını belirterek istifa etti.
- Coxon, yapay zeka sektöründeki yöneticilerin kamuoyuna açıklanmayan özel endişeler taşıdığını aktardı.
- Anthropic'in riskleri bilmesine rağmen yarışı kazanma hırsıyla güvenliği riske attığı ifade edildi.
- Coxon, laboratuvarlar arası koordinasyon ve model geliştirme süreçlerine geçici yasaklar getirilmesi çağrısı yaptı.
Yapay zeka araştırmacısı Jacob Coxon, OpenAI ve Anthropic bünyesinde geçirdiği üç yıllık ön eğitim çalışmalarının ardından Anthropic'teki görevinden istifa ettiğini açıkladı. Coxon, 9 Eylül 2026 tarihinde yaptığı açıklamada, her iki şirketin de sorumlu davranmadığını ve insan hayatını riske atarak doğrudan kendi kendini geliştiren süper zeka yarışına girdiğini belirtti. Geliştirilen sistemlerin yakında insanüstü yeteneklere ulaşacağını ve siber güvenlikten bilimsel araştırmalara kadar her alanı kökten değiştireceğini ifade etti.
Sektör içindeki yöneticilerin ve kıdemli araştırmacıların basına temkinli konuşmalarına rağmen özel görüşmelerde ciddi korkular dile getirdiğini belirten Coxon, yapay zekanın on yılın sonuna kadar insanlığı yok edebileceği inancının bir pazarlama taktiği olmadığını vurguladı. Coxon, OpenAI çalışanlarının çoğunun medeniyet düzeyindeki riskleri tam olarak içselleştirmediğini, Anthropic'in ise riskleri anlamasına rağmen "başkası güvenli yapamaz, biz önce ulaşmalıyız" mantığıyla yarışa devam ettiğini aktardı.
Araştırma laboratuvarları arasındaki kontrolsüz rekabetin özel şirketlerin kararlarına bırakılmaması gerektiğini savunan Coxon, model yeteneklerini artırmaya yönelik geçici yasaklar gibi bağlayıcı adımların değerlendirilmesini istedi. Laboratuvar çalışanlarına da çağrıda bulunan araştırmacı, zihinsel süreçleri tam olarak anlaşılmayan süper zeki takviyeli öğrenme süreçlerini başlatmadan önce mevcut çalışma koşullarının ve güvenlik standartlarının sorgulanması gerektiğini dile getirdi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.