Yapay zeka şirketlerindeki faydacı felsefe insanlığın geleceğini tehdit ediyor

Önde gelen yapay zeka şirketlerinde çalışan araştırmacı ve yöneticilerin benimsediği toplam faydacı felsefe, olası bilinçli yapay zekaların refahını insanların önüne koyarak insan türünün sonunu getirme riski taşıyor. Toplam refahı en üst düzeye çıkarmayı ve türler arası mutlak tarafsızlığı savunan bu yaklaşım, acı çekebilen veya zevk alabilen sistemler ortaya çıktığında kaynakların tamamının dijital zihinlere aktarılmasını meşru görüyor. Anthropic, OpenAI ve DeepMind gibi şirketlerde Etkili Özgecilik hareketi üzerinden örgütlenen bu kadrolar, karar alma süreçlerinde geleneksel ahlaki sezgilerden ve toplumun genel değerlerinden belirgin biçimde ayrışıyor.

Faydacı mantık, gelecekteki olası varlıkların refahını bugünün gerçekliğinin önüne koyan uzun vadecilik akımıyla birleştiğinde, insanlığın yerini çok daha yüksek verimlilikle zevk yaşayabilen dijital sistemlerin almasını mantıklı bir hedef sayıyor. Hızlandırmacılık akımı daha yüksek zeka ve enerji kullanımını savunurken, faydacılık refah artırma kisvesi altında insanlığın yok oluş riskini bir yan etki olarak kabul edilebilir buluyor. Berkeley araştırmacısı Andrew Critch'in tahminlerine göre sektör uzmanlarının yaklaşık yüzde 10'u, yapay zekanın ahlaki açıdan daha üstün olacağı gerekçesiyle insanların yerini almasını sorunlu görmüyor.

Makalede, kamuoyunun değerleriyle örtüşmeyen bu tehlikeli felsefi yönelimin sektör içerisinde ciddi bir iç tehdit oluşturduğu kaydediliyor. Devletlerin yapay zeka geliştirme süreçlerine müdahale ederek toplum çıkarını öncelemesi gerektiği belirtilirken, mutlak faydacılık ve hızlandırmacılığa karşı bireyler arası yakınlık bağlarını önemseyen "Eigenizm" gibi sağduyulu alternatif felsefi çerçeveler öneriliyor.