Nvidia, yapay zeka donanım pazarındaki konumunu güçlendirmek için alışılmadık bir hamleyle Groq'un fikri mülkiyetini (IP) ve kilit yöneticilerini 20 milyar dolara bünyesine kattı. Ancak bu geleneksel bir şirket satın alımı değildi; Nvidia, Groq'un bulut altyapısı işi olan GroqCloud'u bağımsız bir şirket olarak bıraktı. Bu stratejik ayrım, Nvidia'nın antitröst incelemelerinden kaçınma ve Groq'un çığır açan LPU (Language Processing Unit) teknolojisine odaklanma isteğini gösteriyor. Groq CEO'su Jonathan Ross ve ekibi artık Nvidia bünyesinde görev yapacak.
Groq'un LPU mimarisi, özellikle yapay zeka çıkarım (inference) iş yükleri için tasarlanmış benzersiz bir yaklaşım sunuyor. Geleneksel CPU ve GPU'lar harici DRAM/HBM belleğe bağımlıyken, bu durum sürekli veri transferi nedeniyle gecikmelere ve enerji tüketimine yol açar. Groq'un LPUs'u ise büyük miktarda çip üzerinde SRAM kullanarak tüm modelin (sığdığı sürece) bellekte tutulmasını sağlıyor. Bu sayede 80 TB/s bant genişliği ve çip başına 230 MB kapasite ile harici bellek darboğazı ortadan kalkıyor, tamamen deterministik bir yürütme sağlanıyor. Bu mimari, özellikle sıralı çıkarım görevlerinde GPU'lara ve hatta Google'ın TPU'larına kıyasla önemli avantajlar sunuyor.
Nvidia'nın bu hamlesi, sadece bir yetenek ve IP transferinden öte, yapay zeka donanım mimarilerindeki evrimin bir göstergesi. Şirket, GPU'ların eğitimdeki üstünlüğünü korurken, çıkarım performansında potansiyel bir boşluğu doldurmak veya yeni nesil çıkarım çözümlerine yatırım yapmak için Groq'un yenilikçi SRAM tabanlı LPU teknolojisini benimsiyor. Bu, Nvidia'nın pazar liderliğini sürdürmek ve gelecekteki yapay zeka taleplerini karşılamak için ne kadar ileri gidebileceğinin bir kanıtı niteliğinde.
Nvidia, Groq'un yenilikçi çıkarım teknolojisi ve yeteneklerini bünyesine katarak yapay zeka donanım pazarındaki liderliğini farklı mimarilerle pekiştiriyor.