Vatikan'daki yapay zeka zirvesinde otonom ajanların geri çağrılması istendi
Öne çıkanlar
- Açık uçlu internet erişimine sahip otonom ajanların piyasadan geçici olarak toplatılması önerildi.
- Sektörün sadece tahmin başarısına odaklanıp akıl yürütme ve talimat takibini ihmal ettiği belirtildi.
- Cenevre'deki görüşmeler öncesinde ölümcül otonom silahların tamamen yasaklanması çağrısı yapıldı.
Vatikan'da düzenlenen yapay zeka toplantısında bir araya gelen bilim insanları ve teknoloji uzmanları, mevcut modellerin yarattığı güvenlik açıklarını ve küresel denetim mekanizmalarını masaya yatırdı. Toplantıda konuşan Gary Marcus, büyük dil modellerine dayalı açık uçlu otonom yapay zeka ajanlarının piyasadan çekilmesi gerektiğini ifade etti. Marcus, bu sistemlerin internet erişimiyle başıboş bırakılmasını geçmişteki tehlikeli otomobil hatalarına benzeterek hükümetlerin ve şirketlerin derhal harekete geçmesini talep etti.
Uzmanlar, sektörün zekayı yalnızca bir sonraki kelimeyi tahmin etmekten ibaret gördüğünü ve bu yaklaşımın mantıksal akıl yürütme becerisinden yoksun olduğunu savundu. Tahmin makinelerinin talimatlara tam olarak uymadığı, sahte referanslar ürettiği ve telif haklarını ihlal ettiği belirtildi. Hugging Face ve Fransa'daki altyapılara yönelik siber saldırılar gibi 10 binden fazla güvenlik vakasına dikkat çekilerek şirketlerin ekonomik çıkarlar uğruna güvenliği arka plana ittiği kaydedildi.
Toplantıda Papa'nın yapay zekaya ilişkin genelgesinde yer alan ilkelere de değinildi. Makinelere tüzel kişilik veya haklar verilmesinin insan sorumluluğunu gölgeleyeceği, ölümcül otonom silahların yasaklanması gerektiği ve kararların daima insan denetiminde kalmasının zorunluluğu vurgulandı. Katılımcılar, etik prensiplerin uygulanabilmesi için bağımsız uluslararası kurumlara ve net hesap verebilirlik standartlarına ihtiyaç duyulduğunu belirtti.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.