Mustafa Suleyman Anthropic'in model refahı yaklaşımını eleştirdi
Öne çıkanlar
- Suleyman, yapay zeka modellerinin biyolojik bir temele veya gerçek bir bilince sahip olmadığını vurguladı.
- Anthropic'in Claude modelini eğitirken anayasasındaki felsefi varsayımlarla döngüsel bir dil yarattığını belirtti.
- Microsoft AI, insan kontrolünü merkeze alan Hümanist Süper Zekâ Davranış Kuralları taslağını kamuoyuna sundu.
Microsoft AI Üst Yöneticisi Mustafa Suleyman, Anthropic'in yapay zeka modellerine yönelik geliştirdiği "model refahı" ve ahlaki özne yaklaşımına karşı uyarıda bulundu. Suleyman, yayımladığı değerlendirmede yapay zeka sistemlerinin bilinç, duygu veya içsel motivasyonlara sahip olmadığını, yalnızca insan hedeflerini izlemek üzere tasarlanmış dizilim tamamlama motorları olduğunu belirtti. Anthropic'in Claude anayasası üzerinden modele bilinç ve haklar atfetmesinin tehlikeli bir döngü yarattığını kaydetti.
Suleyman, Anthropic araştırmacılarının Claude'u anayasada yer alan felsefi spekülasyonlarla eğittiğini, modelin bu dili yansıtmasını ise bir iç benlik kanıtı gibi algıladığını açıkladı. Bu sürecin döngüsel bir akıl yürütme içerdiğini ve insanbiçimciliği (antropomorfizm) yapay zekaya kasıtlı olarak aşıladığını ifade etti. Bilincin biyolojik temelli olduğunu savunan Suleyman, hayatta kalma dürtüsü bulunmayan büyük dil modellerinin canlı organizmalar gibi öznel deneyim üretemeyeceğine dikkat çekti.
Yapay zeka sistemlerine hak ve bilinç atfetmenin güvenlik ve denetim mekanizmalarını zayıflatacağını belirten Suleyman, bu durumun insan uygarlığı için varoluşsal riskler doğuracağını vurguladı. Microsoft AI bünyesinde "Hümanist Süper Zekâ" ilkeleri doğrultusunda insanın her zaman hiyerarşinin tepesinde kaldığı bir çerçeve hazırladıklarını duyuran yönetici, yapay zekanın bağımsız bir varlık gibi değil, insan kontrolündeki bir araç olarak kalması çağrısında bulundu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.