Anthropic araştırmacısı güvenlik endişeleri nedeniyle şirketten istifa etti
Öne çıkanlar
- OpenAI ve Anthropic geçmişi bulunan araştırmacı güvenlik gerekçeleriyle istifa etti.
- Laboratuvarların kendi kendini geliştiren süper zeka hedefine kontrolsüzce koştuğu belirtildi.
- Araştırmacı, model geliştirme yarışını durdurmak için yetenek artırımına geçici yasak önerdi.
OpenAI ve Anthropic bünyesinde son üç yıldır ön eğitim araştırmacısı olarak çalışan bir uzman, yapay zeka güvenliği konusundaki riskleri gerekçe göstererek Anthropic firmasındaki görevinden ayrıldığını duyurdu. Araştırmacı, her iki şirketin de sorumlu davranmadığını ve kendi kendini geliştirebilen süper zeka sistemlerine ulaşmak için insan hayatını tehlikeye atan kontrolsüz bir yarış yürüttüğünü açıkladı.
Yayımlanan açıklamada, geliştirilmekte olan sistemlerin yakında her türlü ağı hackleyebilecek ve kaynak edinebilecek insanüstü seviyelere ulaşacağı kaydedildi. Yapay zeka laboratuvarlarındaki birçok üst düzey yönetici ve araştırmacının on yılın sonuna kadar varoluşsal tehlikelerin gerçekleşebileceğine özel görüşmelerde açıkça inandığı, buna rağmen yarış ortamı nedeniyle geliştirme süreçlerinin hız kesmeden devam ettiği bildirildi.
Araştırmacı, Anthropic tarafının risklerin farkında olmasına rağmen "başka kimse sorumlu davranmayacak" düşüncesiyle sürece öncülük etmeye çalıştığını dile getirdi. Güvenlik ve uyum sorunları çözülmeden süper zeka modellerinin eğitilmemesi gerektiğini belirten araştırmacı, laboratuvarlar arası koordinasyon sağlanmasını ve model yeteneklerinin geliştirilmesine geçici bir yasak getirilmesini önerdi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.