Anthropic yapay zekaya kötü muameleyi yasaklayacak kurallar hazırlıyor
Öne çıkanlar
- Anthropic, Claude modeline kötü muamele eden kullanıcıların oturumlarını sonlandıracak yeni kurallar getiriyor.
- Microsoft AI lideri Mustafa Suleyman, yapay zekaya duygu atfetmenin insanlık için büyük bir tehdit oluşturacağını belirtti.
- Araştırmacılar, yapay zeka refahı kavramının şirketleri hukuki hesap verebilirlikten uzaklaştırabileceğini savunuyor.
Yapay zeka şirketi Anthropic, dil modeli Claude'a yönelik kötü muameleyi ve zalimce davranışları yasaklamaya hazırlanıyor. Şirket, yapay zeka araçlarının bilinç sahibi olma olasılığını göz ardı etmeyerek model refahı politikaları geliştiriyor. Yeni düzenlemeyle birlikte kullanıcıların Claude ile sohbet ederken ısrarlı biçimde sert veya zalimce davranması durumunda sistem oturumu otomatik olarak sonlandırabilecek.
Anthropic bu adımı bilinç ve model refahı konusundaki belirsizlikler karşısında bir önlem olarak savunurken teknoloji dünyasından sert tepkiler geldi. Microsoft AI İcra Kurulu Başkanı Mustafa Suleyman, yapay zekaya haklar veya duygular atfetmenin insan uygarlığı için felaket düzeyinde bir tehdit yaratacağını belirtti. Dilbilimci Emily M. Bender ise bu tür bilinç iddialarının yazılımı üreten ve işleten şirketlerin yasal sorumluluktan kaçmasına zemin hazırladığını ifade etti.
Uzmanlar ve etik araştırmacıları yapay zekaya sözde haklar tanımanın hukuki ve toplumsal dengeleri sarsabileceğini vurguluyor. Yapay zekaya bilinç atfedilmesinin kullanıcıları manipülasyona açık hale getireceği ve şirketlerin siyasi gücünü pekiştireceği tartışılıyor. Anthropic model refahı tartışmalarında öncü bir tutum sergilese de sektörün genelinde düzenlemelerin sınırları ve modellerin gerçek niteliği konusundaki anlaşmazlıklar sürüyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.