Yapay zeka kodlarını okumayı bırakmak bilgisayar bilimini tehdit ediyor
Öne çıkanlar
- Yazılımcılar arasında yapay zeka tarafından üretilen kodları okumayı bırakma eğilimi giderek yaygınlaşıyor.
- Church-Howard denkliği gereği bir programın kodunu okumamak, bir matematik kanıtını anlamaktan vazgeçmekle eşdeğer görülüyor.
- Matematikçiler yapay zekanın ürettiği karmaşık kanıtları sadeleştirirken yazılımcılar kod inceleme sürecini terk ediyor.
Bilgisayar bilimci Remy Wang yayımladığı yazıda, yapay zeka tarafından üretilen kodların okunmadan kabul edilmesinin bilgisayar biliminin temel ilkelerine zarar verdiğini belirtti. Wang, matematik dünyasının yüz yıl önce David Hilbert'ın eksiksiz ve tutarlı aksiyom arayışıyla yaşadığı krizi hatırlatarak günümüzdeki yapay zeka araçlarının Lean gibi teorem kanıtlayıcılarla birleştiğinde Hilbert'ın hayal ettiği mekanik kanıt makinelerine dönüştüğünü ifade etti.
Yazıda, Kurt Gödel ve Alan Turing'in Hilbert'ın programının imkânsızlığını kanıtlamasına rağmen günümüzdeki büyük dil modellerinin matematiksel ve mantıksal süreçleri mekanikleştirdiği vurgulandı. Matematikçilerin yapay zeka tarafından üretilen uzun kanıtları anlamak için onları sadeleştirmeye çabaladığına dikkat çeken Wang, yazılımcıların ise yapay zeka tarafından üretilen kodları okumayı ve incelemeyi giderek terk ettiğini, bunun da disiplinin anlama refleksini zayıflattığını kaydetti.
Bilgisayar biliminin kaynak kodu üzerinden sistemin en derinine kadar inebilen nadir alanlardan biri olduğunu belirten Wang, testleri geçen kodun içeriğini bilmemeyi tehlikeli bir teslimiyet olarak niteledi. Mühendislerin kodu anlamaktan vazgeçmek yerine daha yüksek seviyeli diller ve soyutlamalar kullanarak kavranabilir hale getirmesi gerektiğini savunan yazar, makinelerin ürettiğini körü körüne kabul etmenin insan kontrolünü ortadan kaldıracağını aktardı.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.