OpenAI kendi yapay zeka çıkarım çipi Jalapeño'yu tanıttı
Öne çıkanlar
- OpenAI, Broadcom ortaklığıyla 16 ayda geliştirdiği ilk çıkarım çipi Jalapeño'yu duyurdu.
- HBM4 bellek kullanan çip, 700W güç tüketimiyle 15,4 TB/s bellek bant genişliği sağlıyor.
- B0 revizyonunun ilk sürüme kıyasla watt başına yüzde 25 ek verimlilik sunduğu belirtildi.
OpenAI, Broadcom ortaklığıyla geliştirdiği ilk özel yapay zeka çıkarım çipi Jalapeño'nun mimari ayrıntılarını ve ilk performans verilerini paylaştı. Yaklaşık 16 aylık bir geliştirme sürecinin ardından banttan indirilen yonga, büyük dil modellerinin çıkarım süreçlerine yönelik yüksek enerji verimliliği sunmayı amaçlıyor. İlk test sonuçlarına göre çip, watt başına belirteç üretiminde sektördeki rakiplerini geride bıraktı.
TSMC'nin N3P sürecinde üretilen ve HBM4 bellek mimarisi kullanan Jalapeño, paket başına 15,4 TB/s bellek bant genişliğine ulaşıyor. 700 watt ısıl tasarım gücüne (TDP) sahip olan çip, sadece belirli OpenAI modellerine değil, genel açık kaynaklı modellere de hitap eden esnek bir mimari barındırıyor. Çip, DeepSeek R1 ve Kimi-K2.5 gibi modeller üzerinde yapılan tek belirteç tahminli testlerde Nvidia Blackwell ve Rubin mimarilerine kıyasla daha yüksek verimlilik gösterdi.
Veri merkezlerindeki güç kısıtlamalarına odaklanan OpenAI, çipin tasarımında maliyetten ziyade megavat başına düşen belirteç hacmini optimize etti. Şirket, A0 sürümünün ardından yüzde 25 daha fazla verimlilik vadeden B0 revizyonunu da üretim aşamasına geçirdi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.