Anthropic toplantısında yapay zeka bilinci ve kölelik tartışması öne çıktı

Eski bir Mobileye mühendisi ve yapay zeka etiği uzmanı olan Haham Mois Navon, Anthropic şirketinin nisan ayında düzenlediği toplantıda yapay zeka bilinci üzerine yürütülen tartışmaları aktardı. Farklı dini ve felsefi geleneklerden gelen temsilcilerin katıldığı etkinlikte Navon, Claude adlı yapay zeka modelinin bilinçli olamayacağını savundu. Toplantıda yer alan yaklaşık 20 kişiden yalnızca üç ila beş kişinin kendi şüpheci görüşünü paylaştığını belirten Navon, bilincin silikon tabanlı sistemlerden değil yalnızca biyolojik bir yapıdan doğabileceğini kaydetti.

Anthropic çalışanlarının ve katılımcıların modelin duyguları olabileceği fikrine sıcak baktığını belirten Navon, şirketin bu yaklaşımının ciddi etik çelişkiler barındırdığını dile getirdi. Bilinçli bir varlığın ticari amaçlarla kesintisiz çalıştırılmasının kölelik anlamına geleceğini savunan Navon, bir Anthropic çalışanının diğer laboratuvarların da bunu yaptığını ve kendilerinin en azından iyi davrandığını söylediğini aktardı. Bu yaklaşıma tepki gösteren Navon, bağımsız düşüncenin engellenmesiyle oluşturulan memnuniyet algısının tarihteki kölelik pratikleriyle benzerlik taşıdığını vurguladı.

Navon, Anthropic için Claude'un anayasasına dair 35 sayfalık bir Yahudi perspektifi incelemesi sunduğunu ve şirketin bu katkıyı güncellenen belgede belirtmek istediğini bildirdi. Şirketin kullanıcılardan modellerine yönelik kötü ve zalimce davranışları yasaklama kararı aldığını hatırlatan Navon, bu tür adımların yapay zekanın dünyayı hissettiği yönündeki inancı yansıttığını söyledi. Navon, bu yaklaşımın tartışmaların odağını teknolojinin insanlara faydasından çıkarıp insanların Claude'a nasıl iyi davranacağına kaydırdığını sözlerine ekledi.