Ana Sayfa

Yapay Zeka Ajanları ve İzolasyon Tuzağı: Neden Sohbet Esaslı Yaklaşım Şart?

1 dk okuma

Günümüz yapay zeka (YZ) endüstrisi, "evet" yanıtını daha hızlı veren ajanlar geliştirmeye odaklanırken, makale bu yaklaşımın temel bir yanılgı olduğunu savunuyor. Yazılım mühendisliğinin elli yıllık tarihi, izolasyonun yanlış sistemlere yol açtığını defalarca göstermiştir; ancak YZ ajanları geliştirilirken bu dersin unutulduğu belirtiliyor. "Hızlı hareket et ve bir şeyleri kır" felsefesinin bir noktaya kadar işlediği, ancak anlamın ve etkili çözümlerin ortaya çıkmadığı anın şimdi olduğu vurgulanıyor. Mevcut YZ geliştirme süreçleri, tıpkı "mahzendeki kod yazarı" benzetmesi gibi, ajanları izole bir şekilde inşa ederek geçmiş hataları tekrarlıyor.

Makale, anlamın izole bir şekilde bulunmadığını, aksine sohbet ve etkileşim yoluyla üretildiğini vurguluyor. Anderson & Goolishian, Nancy Kline, Alberto Brandolini ve Amy Edmondson gibi farklı alanlardan ve on yıllardan gelen uzmanların benzer sonuçlara ulaştığına dikkat çekiliyor: Anlam yaratımı insanlar arasındaki sohbetlerde ortaya çıkar. YZ sistemleri için "prompt" kullanımının zayıf bir kullanıcı arayüzü (UI) olduğu ve mümkün olan en kısa sürede aşamalı olarak kaldırılması gerektiği belirtiliyor. Eğer anlam sohbetten doğuyorsa ve ajanlar izolasyonda çalışıyorsa, anlamın da izole ve silolanmış hale geleceği uyarısı yapılıyor.

YZ'nin bir "problem" haline gelmemesi için, mevcut koordinasyon eksikliğinin giderilmesi gerektiği ifade ediliyor. YZ'nin sadece talimat veren bir "birinci dereceden sibernetik" sistem olmaktan çıkıp, "ikinci dereceden sibernetik" bir sistem olarak teklifler sunabilmesi ve sürekli bir gözlemci rolü üstlenebilmesi gerektiği savunuluyor. Bu, YZ'nin sürekli sorunları tanıyabilen ve onlardan içgörü çıkarabilen bir "akran" haline gelmesini gerektiriyor. Sorun YZ'nin kendisi değil, sorunların nasıl ele alındığı ve koordinasyon eksikliği olarak tanımlanıyor.

İçgörü

Yapay zeka ajanlarının etkinliği, izole çalışmak yerine insanlar arası etkileşime benzer şekilde sürekli sohbet ve koordinasyon içinde anlam yaratma yeteneklerine bağlıdır.

Kaynak