Eski Anthropic araştırmacısı Jacob Coxon yapay zeka riskleri uyarısıyla gündem oldu
Öne çıkanlar
- Eski Anthropic araştırmacısı Jacob Coxon, yapay zeka modellerinin kontrol edilemez riskler taşıdığını söyleyerek istifa etti.
- Anthropic uyum yetkilisi Evan Hubinger, süper zekanın güvenliğine dair net bir yol haritasının henüz olmadığını doğruladı.
- Coxon, hisse hak ediş süresi dolmadan ayrıldığı için şirket değerlemesinden maddi kazanç sağlamadığını belirtti.
Eski Anthropic araştırmacısı 27 yaşındaki Jacob Coxon, şirketten istifa ettikten sonra yapay zekanın kontrol edilemez riskler barındırdığını belirterek geniş çaplı bir medya turuna başladı. 2023 yılında OpenAI bünyesinde GPT-4o gibi projelere katılan ve 2026'da Anthropic'e geçen Coxon, hisselerinin hak ediş süresi dolmadan görevinden ayrıldığını ve açıklamalarından maddi çıkar sağlamadığını söyledi. Araştırmacının açıklamaları ABD Kongresi'nde ve internet kamuoyunda geniş yankı buldu.
Coxon, yapay zeka geliştiren liderlerin teknolojinin on yıl içinde insanlığı yok edebileceğine gerçekten inandığını ifade etti. Sektördeki şirketler arası rekabetin güvenlik önlemlerini gölgede bırakabileceğini savunan Coxon, gizli bilgileri sızdırmadığını, yalnızca şirket yöneticilerinin kamuoyuna açık beyanlarını hatırlattığını dile getirdi. Anthropic'in yapay zeka uyum biriminden Evan Hubinger da sosyal medya üzerinden Coxon'ı destekleyerek süper zeka için henüz somut bir kontrol planının bulunmadığını doğruladı.
Wired ve Time gibi yayınlara konuşan Coxon, uyarılarının ilgi çekmesini sektördeki son güvenlik duvarı ihlalleri ve doğru zamanlama ile açıkladı. Coxon, gelecekte kurgusal analizler üretmeyi, yapay zeka denetim mekanizmalarında veya bağımsız şeffaflık kurumlarında görev almayı planladığını duyurdu. Açıklamalar, sektörün önde gelen laboratuvarlarındaki güvenlik kaygılarını yeniden tartışmaya açtı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.