Güvenlik araştırmacısı yapay zeka modellerini neden kullanmadığını açıkladı
Öne çıkanlar
- Modellerin karmaşık yazılımlarda açık bulabilmesi için halen uzman insan yönlendirmesi gerekiyor.
- Yamanmamış sıfır gün açıklarının sosyal medyada kanıt videolarıyla paylaşılması pazarlama taktiği olarak kullanılıyor.
- Büyük güvenlik açıkları otomatik sistemlerden ziyade merak odaklı insan araştırmalarıyla tespit ediliyor.
Bağımsız bir siber güvenlik araştırmacısı yayımladığı kişisel değerlendirme yazısında, araştırmalarında ve yazılım geliştirme süreçlerinde büyük dil modellerini neden tercih etmediğini açıkladı. Yazar, teknik araştırmaları ve hata ayıklama süreçlerini para kazanmaktan ziyade keyif aldığı için yürüttüğünü belirterek, bu zevki bir yapay zekaya devretmek istemediğini bildirdi. Ayrıca modellerin ürettiği çıktılarda kendinden emin biçimde yanlış bilgi sunmasının ve saçma komutlar çalıştırmasının çalışma motivasyonunu kırdığını belirtti.
Yazıda büyük dil modellerinin siber güvenlik alanındaki gerçek rolü ve şirketlerin pazarlama stratejileri de ele alındı. Modellerin rehberlik olmadan tek başlarına kritik açıklar bulamayacağını ifade eden araştırmacı, sektörde OpenAI gibi büyük firmaların güvenlik bulgularını abartılı anlatılarla pazarladığını kaydetti. Yamanmamış sıfır gün açıklarına ait konsept kanıtı videolarının ve karma değerlerinin sosyal medyada erken paylaşılmasının güvenliği artırmak yerine yalnızca korku ve panik yarattığı vurgulandı.
Araştırmacı, eMudhra vakasındaki zayıf sertifika anahtarı gibi kritik güvenlik açıklarının yapay zeka sistemleri yerine insanlar tarafından tesadüfen ve merakla ortaya çıkarıldığını hatırlattı. Kişisel projelerde yapay zeka kullanımının problem çözme zevkini ve öğrenme fırsatlarını yok ettiğini savunan yazar, geliştiricilere doğrudan kod yazma ve derinlemesine inceleme alışkanlıklarını terk etmeme çağrısında bulundu.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.