Anthropic kurucu ortağı yapay zeka acil durdurma anahtarının zorunlu olmasını istedi

Anthropic kurucu ortaklarından Jack Clark, yapay zeka sistemlerini tehlike anında tamamen kapatabilen ve üçüncü taraflarca denetlenebilen bir acil durdurma mekanizmasının şirketler için yasal zorunluluk haline gelebileceğini açıkladı. BBC'ye konuşan Clark, çoğu araştırma laboratuvarının kendi fişi çekme yöntemleri bulunduğunu ancak yasa yapıcıların bu gerekliliği resmi düzenlemelerle zorunlu kılması gerekebileceğini belirtti. Açıklama, sektör liderleri ve araştırmacıların yapay zekanın varoluşsal risklerine yönelik uyarılarının arttığı bir dönemde yapıldı.

Yapay zeka modellerinin güvenliği konusundaki tartışmalar, Anthropic ve OpenAI gibi büyük firmaların yöneticileri arasında farklı yankılar buluyor. Anthropic Üst Yöneticisi Dario Amodei, geliştirme hızının yavaşlatılması ve daha sıkı izlenmesi çağrısında bulunurken, bu sürecin ticari rekabet avantajını zedelemeden yürütülmesi gerektiğini savundu. Sektördeki bazı uzmanlar ve şirket yöneticileri ise yok olma riskine dair senaryoların abartıldığını veya yüksek şirket değerlemelerini korumak amacıyla bir pazarlama aracı olarak kullanıldığını kaydetti.

Yasal alanda ise Amerika Birleşik Devletleri milletvekilleri, sorunlu sistemlerin kapatılmasını gerektiren ve resmi kurumlara müdahale yetkisi tanıyan bir yasa tasarısını gündeme taşıdı. Buna karşın ABD Başkanı Donald Trump, yapay zekanın dünyayı ele geçireceği iddialarını asılsız bularak sektörün yavaşlatılması çağrılarını reddetti. Birleşik Krallık hükümeti de benzer bir durdurma mekanizmasının küresel ölçekteki kontrolsüz geliştirmeleri engelleyemeyeceğini bildirerek acil durdurma anahtarı fikrine mesafeli yaklaştı.