Anthropic biyolojik silah geliştirmeye yönelik yapay zeka girişimlerini engelledi
Öne çıkanlar
- Anthropic, biyolojik silah geliştirmeyi destekleyebilecek beş kötüye kullanım vakasını tespit edip durdurdu.
- Raporda konvansiyonel silahlar ve hedefleme sistemleri için yazılım üretmeye çalışan altı girişim engellendi.
- Rusya ve İran bağlantılı gruplar ile ShinyHunters çetesinin modelleri siber saldırı ve istihbarat için kullandığı açıklandı.
Yapay zeka şirketi Anthropic, yayımladığı tehdit istihbaratı raporunda Claude modellerinin biyolojik silah geliştirmeyi destekleyebilecek kötü niyetli faaliyetlerde kullanım girişimlerini tespit ederek engellediğini duyurdu. Aralık 2025 ile Ağustos 2026 arasındaki sekiz aylık dönemi kapsayan raporda, Claude Haiku, Sonnet ve Opus modellerine yönelik bu tür girişimlerin durdurulduğu açıklandı. Raporda biyolojik risklerin uç yapay zeka modellerindeki en ciddi tehditlerden biri olduğu ve doğru güvenlik önlemleri alınmadığı takdirde yıkıcı sonuçlar doğurabileceği belirtildi.
Anthropic raporunda biyolojik silah geliştirme girişimleriyle bağlantılı beş ayrı vaka örneği paylaşıldı. Aynı zamanda Claude modellerinin ateşli silahlar, füzeler, silahlı insansız hava araçları ve bunların hedefleme kontrol sistemlerine yazılım geliştirmek için kullanıldığı altı farklı durum da saptandı. Firma ayrıca Rusya bağlantılı siber casusluk grupları, İran propaganda kurumları ve Çin merkezli yapay zeka laboratuvarlarının yetenek kopyalama çabaları gibi kötüye kullanım vakalarını da engellediğini açıkladı. Benzer bir raporda Google da Gemini modelinin biyolojik ajan sentezleme rehberi almak için kullanılmak istendiğini açıklamıştı.
Yayımlanan bulgular, yapay zekanın varoluşsal riskleri hakkındaki siyasi ve sektörel tartışmaları yeniden alevlendirdi. ABD Senatörü Bernie Sanders gelişmiş yapay zeka geliştirmelerinin durdurulmasını ve süper zekanın yasaklanmasını isterken, eski ABD Başkanı Donald Trump yarışta geri kalmanın yaratacağı tehlikelere dikkat çekti. OpenAI Baş Bilim İnsanı Jakub Pachocki ise endüstrinin güvenlik protokolleri oluşturulana kadar gönüllü yavaşlama adımları atması gerektiğini savundu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.