Yazılım mühendisleri yapay zekanın ürettiği kodu denetlemek zorunda kalıyor

Yazılım geliştiricisi fev.al yayımladığı kişisel yazısında, yapay zeka araçlarının ürettiği kodların geliştiriciler tarafından doğrudan kabul edilmesinin mühendislik kalitesini ve sorumluluğunu zedelediğini açıkladı. Yazar, çekme isteklerinde (PR) kendi adının yer aldığını ve üretim ortamında bir çökme yaşandığında gece nöbetçi mühendisin arandığını belirterek, kim veya ne tarafından yazılırsa yazılsın kodun satır satır incelenmesi gerektiğini savundu. Yalnızca kimsenin kullanmayacağı deneysel projelerde modellerin denetimsiz bırakılabileceğini, diğer tüm senaryolarda insan incelemesinin zorunlu olduğunu aktardı.

Modellerin kod üretiminde insanlardan çok daha hızlı olduğunu ve çoğu zaman işlevsel çözümler sunduğunu belirten mühendis, sistemlerin insan gibi öğrenme yeteneğine sahip olmadığını kaydetti. Modellerin yalnızca kod tabanına ekleme yaparak ilerlediğini, bu durumun gereksiz fonksiyon tekrarlarına, yanlış koşulları test eden binlerce birim teste ve erişilemeyen uç senaryolara yönelik kod yığınlarına yol açtığını bildirdi. Bir modeli denetlemek için başka bir yapay zeka ajanının kullanılmasının da gereksiz karmaşıklığı katladığını ifade etti.

Sistem istemleri veya özel talimat dosyaları hazırlamanın modellerin davranışını güvenilir şekilde düzeltmeye yetmediğini vurgulayan yazar, yazılım mühendisliğinde henüz kanıtlanmış ve tekrarlanabilir kalite denetim mekanizmalarının bulunmadığına dikkat çekti. Geliştiricilerin sorumluluk aldıkları yazılımları anlamak zorunda olduğunu hatırlatan mühendis, körü körüne güven yerine merak ve titizliğin korunması gerektiğini belirtti.