Yazılım geliştirmede yapay zekaya düşünmeden güvenmek çalışanları riske atıyor

Mühendis Dan Luu, yazılımcıların büyük dil modellerini (LLM) kullanırken eleştirel düşünmeyi tamamen devre dışı bırakmasının mesleki gelecekleri açısından ciddi bir tehdit oluşturduğunu belirtti. 2025 yılından itibaren geliştiricilerin model çıktılarını doğrulamadan kabul etme eğiliminin arttığına işaret eden Luu, bu kişilerin hata aldıklarında sadece hatayı modele geri besleyen birer et ve kemikten aracı haline geldiğini kaydetti. Modeller geliştikçe bu yöntemin vasat seviyede çalışan yazılımlar üretmeye başladığını ancak ortaya çıkan işlerin başarılı ürün standartlarını karşılamadığını aktardı.

Yazılımcıların düşünmeyi modele devrettiği projelerin pratikte büyük sorunlar barındırdığını vurgulayan Luu, sektörde yapay zekanın kodlama sorununu tamamen çözdüğü yönündeki iddiaların gerçeği yansıtmadığını bildirdi. Dağıtım dışı senaryolarda modellerin belirgin şekilde başarısız olduğunu aktaran mühendis, karmaşık ve belirsiz gereksinimlere sahip mimari kararların insan gözetimi olmadan çözülemediğini ifade etti. Modellerin ürettiği gereksiz karmaşıklıkların ve işe yaramayan test kodlarının sıkı denetim süreçleriyle elenmesi gerektiğini belirten Luu, yazılımcı Luke Burton ve Gary Bernhardt'ın da benzer şekilde yapay zeka çıktılarının ciddi düzeltmeler gerektirdiğini gözlemlediğini ekledi.

Luu, modellerin insan gözetimi olmaksızın kendi döngüleriyle yazılım geliştirebilecek seviyeye ulaşması durumunda, düşünmeyi bırakan çalışanların tamamen işlevsiz kalacağına dikkat çekti. Şirketlerin görevi yalnızca modeli tetiklemek olan personeli istihdam etmeyeceğini, bu aracı döngüleri doğrudan otomatikleştireceğini vurguladı. Yazılım mühendislerinin modelleri yönlendirirken mimari, kalite kontrol ve tasarım aşamalarında aktif rol oynaması gerektiğini, aksi halde eleştirel bakışını kaybeden geliştiricilerin ilk elenen grupta yer alacağını dile getirdi.