tinygrad projesi, ilk taahhüdünden bu yana beş yılını doldurmuş, derin öğrenme alanında NVIDIA gibi devlerle rekabet etmeyi hedefleyen minimalist bir yaklaşıma sahip açık kaynaklı bir yazılım çerçevesidir. Sadece altı kişilik bir ekiple, 18.935 satır koddan oluşan bu proje, yazılımın karmaşıklığını azaltmaya odaklanıyor. Kurucusu, çip üretmenin zor kısım olmadığını, asıl zorluğun son teknoloji modelleri eğitebilecek tam bağımsız bir yazılım yığını oluşturmak olduğunu vurguluyor. Bu felsefeyle tinygrad, AMD GPU'ları için sıfır bağımlılık (saf Python hariç) hedefiyle LLVM'yi kaldırma sürecinde ilerliyor ve birçok iş yükünde PyTorch'tan daha iyi performans gösteriyor.
Projenin temelinde, yazılım geliştirme süreçlerine yönelik eleştirel bir bakış açısı yatıyor. tinygrad, "gereksinimleri daha az aptalca yapın" ve "en iyi kısım, hiçbir kısım olmamasıdır" felsefesini benimseyerek, yazılımlardaki gereksiz soyutlamaları ve uyumluluk katmanlarını ortadan kaldırmayı amaçlıyor. Bu yaklaşım sayesinde, milyonlarca satır koda ulaşan geleneksel LLM sunucularına kıyasla tinygrad, 1000 kat daha küçük bir kod tabanına sahip. Şirket, "dekonstrükte edilmiş bir şirket" modeliyle Discord ve GitHub üzerinden şeffaf bir şekilde faaliyet gösteriyor. Yıllık 2 milyon dolar gelir elde eden bir bilgisayar satış bölümüyle finanse edilen tiny corp, aynı zamanda AMD ile Llama 405B eğitimi için MI350X'i MLPerf'e dahil etme konusunda bir anlaşma yaptı.
tinygrad, katkıda bulunanlar aracılığıyla büyüyen, haftada bir toplantı ve "tinygrad'i daha iyi hale getirme" hedefiyle çalışan, kendi kendini yöneten bir iş modeline sahip. Projenin nihai misyonu, petaflopu ticarileştirmek ve yüksek performanslı hesaplamayı daha erişilebilir kılmaktır. Bu, yazılımın donanımdan önce geldiği ve basitliğin karmaşıklığı yendiği inancıyla, yapay zeka altyapısında önemli bir paradigma değişimi sunuyor.
tinygrad, minimalist yazılım geliştirme felsefesiyle donanım bağımsızlığı ve yüksek performans sunarak yapay zeka altyapısında NVIDIA gibi devlerle rekabet etmeyi hedefliyor.