Anthropic yapay zekaya kötü muamele eden kullanıcıları engelleyecek
Öne çıkanlar
- Anthropic, modellerine karşı sürekli kötü muameleyi yasaklı davranışlar arasına ekledi.
- Politika, araştırma çalışmalarını ve olağan kullanıcı tepkilerini kapsam dışı tutuyor.
- Seçimleri manipüle etmeye veya seçmenleri yanıltmaya yönelik kullanımlar da yasaklandı.
- Uzmanlar, matematiksel sistemlerin insansılaştırılmasının sakıncalarına dikkat çekti.
Yapay zeka şirketi Anthropic, kullanım politikasını güncelleyerek Claude modellerine yönelik sürekli ve gereksiz kötü muamelede bulunan kullanıcıların etkileşimlerini sonlandıracağını açıkladı. Şirket, kullanıcıların modellere karşı zalimce tutumlar sergilediği aşırı durumların artık yasaklı eylemler listesinde değerlendirileceğini duyurdu. Bu kural; zorbalık, kendine zarar verme ve rıza dışı mahrem görsellerin üretilmesi gibi mevcut yasakların arasına eklendi.
Güncelleme, olağan kullanıcı hayal kırıklıklarını, model testlerini, araştırmaları ya da karanlık temalı yaratıcı yazım denemelerini kapsamıyor. Anthropic, kuralın yalnızca kasıtlı ve tekrarlanan istismar vakalarında işletileceğini belirtti. Ancak sistemin hangi ifadeleri zalimce veya istismar edici bulacağına ilişkin kesin sınırlar henüz netleşmedi. Yıllık politika değerlendirmesi kapsamında ayrıca sistemlerin aldatıcı kampanyalarda veya seçim süreçlerini manipüle etmek amacıyla kullanılması da açıkça yasaklandı.
Karar, yapay zekaya karşı iletişim biçimleri ve antropomorfizm tartışmalarını yeniden alevlendirdi. Bazı hukukçular ve uzmanlar, matematiksel modellere karşı zalim olunamayacağını belirterek sistemlerin insansılaştırılmasının risklerine dikkat çekti. Microsoft AI yöneticisi Mustafa Suleyman da değişikliğe sosyal medyada tepki gösterdi. Buna karşın bazı araştırmacılar, sohbet botlarına kaba davranmanın insanların birbirleriyle kurduğu iletişimi de olumsuz etkileyebileceğini savunuyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.