Talos, Derin Evrişimsel Sinir Ağları (CNN) için sıfırdan inşa edilmiş, FPGA tabanlı özel bir donanım hızlandırıcısıdır. Mevcut yazılım mantığının donanımda yeniden uygulanmasından ziyade, derin öğrenme çıkarımının (inference) devre düzeyinde nasıl çalışması gerektiğine dair köklü bir yeniden düşünme sunar. Çoğu derin öğrenme framework'ü esneklik üzerine kurulmuşken, Talos tam tersi bir yaklaşım benimser. Çalışma zamanı (runtime), zamanlayıcı (scheduler) ve işletim sistemi yükünü ortadan kaldırarak FPGA'nın ham hesaplama yeteneğini ortaya çıkarır. Tüm çıkarım hattını SystemVerilog'da uygulayarak, her hesaplama üzerinde deterministik, döngü-doğru kontrol sağlar.
Bu yaklaşım, özellikle üretim ortamındaki çıkarım süreçlerinde kritik olan yanıt süresini en aza indirmeyi hedefler. PyTorch gibi framework'ler esneklik için tasarlanmış olup, bu durum çıkarım sırasında ek yük getirir. Talos ise matematiğin dışındaki her şeyi kaldırarak ve tüm hattı donanımda deterministik hale getirerek bu ek yükü ortadan kaldırır. Çalışma zamanı veya zamanlayıcı olmaksızın, her işlem bilinen bir yola ve döngü maliyetine sahiptir, bu da aynı girdinin her zaman aynı zamanlamayı ve davranışı üretmesini sağlar. Ayrıca, büyük ara bellekler yerine akış tabanlı bir boru hattı kullanarak katmanlar arasında tüm özellik haritalarını saklama ihtiyacını ortadan kaldırır ve sabit noktalı matematik ile amaca yönelik kontrol, genel amaçlı ek yükü azaltır.
Donanım geliştirmenin yazılımdan çok farklı ve zorlu bir süreç olduğu vurgulanmaktadır. Yazılımda hatalar saniyeler içinde düzeltilebilirken, donanımda fiziksel kısıtlamalar ve nanometre düzeyindeki zamanlama hassasiyetleri nedeniyle hata payı son derece düşüktür. Geliştirme sürecinde saatlerce dalga formlarına bakarak tek bir bitin yanlış zamanda değiştiğini yakalamaya çalışmak gibi zorluklar yaşanmıştır. Bu, yazılım mühendislerinin nadiren karşılaştığı bir detay seviyesidir ve donanımın fiziksel yapısıyla "müzakere etmeyi" gerektiren zihinsel olarak yorucu bir süreçtir. Ancak bu zorluklar, Talos gibi somut ve yüksek performanslı çözümlerin ortaya çıkmasını sağlar.
Talos, derin öğrenme çıkarımında mevcut yazılım tabanlı çözümlerin esneklik odaklı yaklaşımlarından kaynaklanan performans darboğazlarını, donanım düzeyinde radikal bir optimizasyonla aşarak sektörde yeni bir verimlilik standardı belirliyor.