Yapay zeka ajanlarinda dongu muhendisligi ve durma kurallari tartisiliyor
Öne çıkanlar
- Dongu muhendisligi; hedef durum, gozlenebilirlik, yerel duzenleme ve durma kurali olmak uzere dort bilesene dayaniyor.
- Yapay zeka modelleri ek dongulerde basari saglayamadigi durumlarda dahi gereksiz belirtec tuketimini surduruyor.
- Kodlama gorevleri duzenlenebilir ve calistirilabilir yapisi sayesinde dongu yakinsamalarinda en basarili alani olusturuyor.
Girisim sermayesi sirketi Andreessen Horowitz (a16z), yapay zeka ajanlarinin otonom dongulerde ne zaman duracagini belirlemeyi amaclayan "dongu muhendisligi" yaklasimini inceleyen teknik bir yazi yayimladi. Analiz, yapay zeka modellerinin kendi baslarina bir isin bittigini anlayamayacagini ve insan denetimi olmadan calisan otonom dongulerin basarisinin guclu dogrulayicilara bagli oldugunu gosteriyor.
Yaziya gore bir dongunun basariyla sonuclanmasi dort temel sarta dayaniyor: hedef durumun tanimlanmasi, mevcut durumun yapisal olarak gozlenebilmesi, yerel degisiklik yapabilme imkani ve disaridan belirlenen bir durma kurali. Kodlama gibi duzenlenebilir ve calistirilabilir alanlar donguler icin elverisli ortam sunarken, acik uclu gorsel uretimi gibi alanlar zayif dogrulama mekanizmalari nedeniyle donguleri tikanmaya surukluyor.
Dongulerin ekonomik boyutuna da deginilen analizde, test zamani hesaplama maliyetlerinin logaritmik getiri sundugu ve gereksiz dongulerin maliyeti katladigi vurgulaniyor. Yapilan deneyler, hedefin ulasilamaz oldugu senaryolarda harcamanin yuzde 67'sinin hicbir kalite artisi saglamadigini ve modellerin verimsiz sekilde belirtec tuketmeye devam ettigini ortaya koyuyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.