API rate limiter, bir web servisinin sunucu tarafı bileşenidir ve bir istemcinin belirli bir zaman dilimi içinde bir uç noktaya yapabileceği API isteklerinin sayısını sınırlar. Örneğin, X (eski adıyla Twitter), bir kullanıcının üç saatte gönderebileceği tweet sayısını üç yüz ile sınırlandırmaktadır. Rate limiter'lar, belirlenen kullanım limitlerini aşan istekleri engelleyerek API'lerin sorumlu bir şekilde kullanılmasını sağlar. Bu mekanizmalar, web sunucularını aşırı yüklenmeden koruyarak DoS (Denial of Service) saldırılarından kaynaklanan gereksiz yükü önler ve meşru kullanıcılar için hizmetin erişilebilirliğini sürdürür. Ayrıca, harici API'lere yapılan isteklerin maliyetini yönetmeye yardımcı olurlar; ücretli harici API'ler kullanan uç noktaların aşırı kullanımı, web servisi için yüksek maliyetlere yol açabilir. Rate limiter'lar bu tür aşırı kullanımları engelleyerek maliyetleri makul bir seviyede tutar.
Rate limiter'lar üç adımlı bir mekanizma kullanarak çalışır: belirli istemcilerden gelen istekleri takip etmek, kullanımlarını izlemek ve eşik aşıldığında ek istekleri engellemek. Daha detaylı olarak, rate limiter'lar API istemcilerini ve onlara özgü nitelikleri (örneğin, IP adresleri veya userId) not eder. Bu nitelikler, istemcileri tanımlamak için kullanılan referanslar veya anahtarlardır. Ardından, rate limiter'lar kullanım eşiğini belirlemek için kullanılan metriği artırır veya azaltır. Örneğin, Twitter, bir kullanıcının belirli bir zaman diliminde "tweet oluştur" uç noktasına yaptığı API isteklerinin sayısını takip edebilir. Her istekte kullanım eşiği kontrol edilir ve eğer eşik aşılmışsa, istek API uç noktasının işlevselliğine erişimi engellenir ve 429 durum koduyla yanıt verilir. Bu makale, Next.js app router projesinde bellek içi bir rate limiter'ın nasıl oluşturulacağını ve Artillery ile doğruluk ve dayanıklılık açısından nasıl yük testi yapılacağını öğretmeyi amaçlamaktadır.
API rate limiter'lar, web servislerinin performansını, güvenliğini ve maliyet etkinliğini artırarak kötüye kullanımı ve aşırı yüklenmeyi önleyen kritik bir güvenlik ve yönetim aracıdır.