Açık kaynak projelerde yapay zeka katkıları risk yaratıyor

Yazılım geliştiricisi Ploum yayımladığı analizde, açık kaynaklı yazılım projelerinin büyük dil modelleri tarafından üretilen katkılara karşı acil ve kesin bir duruş sergilemesi gerektiğini belirtti. Toplulukların yapay zekayı tamamen kabul etme, tamamen reddetme veya Debian projesinde görülen belirsiz bir orta yol izleme seçenekleriyle karşı karşıya olduğunu aktaran yazar, gri alan bırakmanın zamanla kontrolsüz kod girişine yol açtığını kaydetti. Kararsız kalmanın ya da net kural koymamanın projeleri fiilen yapay zeka kodlarına teslim ettiğini ifade etti.

Yapay zekayı reddetmenin getirdiği stratejik avantajları inceleyen analiz, yalnızca LLM araçlarına bağımlı çalışan kişilerin zaten kendi kodlarını denetleme ve anlama yetisinden yoksun olduğunu savundu. GitHub üzerinde kendi gönderdiği yamayı test edemediğini itiraf eden katkıcıların sayısındaki artışa dikkat çekildi. İnsan eliyle yazılan yazılımların hiçbir kullanıcı kitlesini dışlamadığı, buna karşılık yapay zeka çıktılarının etik hassasiyeti yüksek geniş bir geliştirici çevresini projeden uzaklaştırdığı ve projeyi pahalı tescilli yazılımlara bağımlı kıldığı vurgulandı.

Yapay zeka kodlarını asbeste benzeten yazar, bu kodların uzun vadeli etkilerinin öngörülemediğini ve lisans uyumsuzluğu gibi telafisi zor hukuki riskler barındırdığını dile getirdi. Pascal'ın Bahsi analojisine başvuran metin, LLM katkılarını şimdilik tamamen reddetmenin projelere maliyetsiz bir güvenlik alanı sağladığını aktardı. Gelecekte teknolojinin olgunlaşması durumunda kuralların gevşetilebileceği, ancak sisteme bir kez sızan kontrolsüz kod yığınını temizlemenin projeyi terk etmeye kadar varabilecek yıkıcı sonuçlar doğuracağı açıklandı.