OpenAI kendi yapay zeka modelleriyle Jalapeño çipini tasarladı

OpenAI, ilk yapay zeka hızlandırıcı çipi Jalapeño'yu 25 Ağustos'ta tanıttı. 4 bit işlem gücünde 13,4 petaflops seviyesine ulaşan ve 232 gigabayt belleğe 15,4 terabayt/saniye bant genişliğiyle bağlanan çip, ilk mimari tasarımdan üretime kadar geçen süreci 20 aydan kısa sürede tamamladı. Şirket, ilk mantıksal tasarım (RTL) kodu ile üretim bandına gönderim (tape-out) arasındaki sürenin ise dokuz ayda bittiğini açıkladı.

Donanım biriminin yaklaşık 100 kişilik bir ekiple yürüttüğü projede, fiziksel tasarım ve üretim adımlarında Broadcom ile iş birliği yapıldı. OpenAI mühendisleri, çipin mantıksal tasarım sürecinde açık kaynaklı XLS araç zincirini ve şirket içi büyük dil modellerini kullandı. C++ ve DSLX ile yazılan kodları Verilog formatına dönüştüren ekip, donanımın ilk örnekleri geldikten sonra yazılım çekirdeği optimizasyonunu da modellerle yürüterek 40 saat içinde teorik sınırın yüzde 88,94 performansına ulaştı.

OpenAI, yapay zeka destekli fiziksel optimizasyonla matris çarpım birimlerinin kapladığı alanı insan tasarımına kıyasla yüzde 10 oranında küçülttüğünü bildirdi. Projede erken aşamada o3 modeli kullanılırken, tasarımın son evrelerinde GPT-6 Astra'nın öncüsü olan dahili modeller devreye girdi. Şirket yetkilileri, donanım tasarımının tümüyle otomatikleşmeyeceğini ancak modellerin küçük ekiplerle çok daha hızlı iterasyon yapma imkanı tanıdığını belirtti.