İnsan beyni, yaklaşık 20 watt enerji tüketirken, saniyede bir exaflop işlem gücüne eşdeğer bir performans sergileyen şaşırtıcı bir paradokstur. Bu, Oak Ridge Ulusal Laboratuvarı'nın Frontier süper bilgisayarının aynı hesaplama başarısını elde etmek için bir milyon kat daha fazla, yani 20 megawatt enerji harcamasıyla kıyaslandığında, beynin öğrenme, akıl yürütme ve dünyayı anlamlandırma konusunda ne kadar enerji verimli olduğunu gösteriyor. Bu durum, çağımızın en acil teknolojik sorunlarından birine, yani yapay zekanın hızla artan enerji tüketimine işaret ediyor. 2024 yılında veri merkezleri küresel elektrik tüketiminin yaklaşık %1,5'ini oluştururken, bu oranın 2030'a kadar %35-50'ye çıkabileceği öngörülüyor. Tek bir büyük dil modelinin (örneğin ChatGPT-3) eğitimi bile 130 ABD evinin yıllık tüketimine eşdeğer 1.300 megawatt-saat elektrik gerektiriyor.
Bu enerji tüketimi artışı, çevresel açıdan da ciddi sonuçlar doğuruyor; ABD veri merkezleri 2024 Ağustos'a kadar 105 milyon metrik ton CO2 emisyonundan sorumlu oldu. Küresel veri merkezi elektrik tüketiminin 2030'a kadar iki katına çıkarak 945 terawatt-saate ulaşabileceği tahmin ediliyor. Geldiğimiz noktada, hesaplama sınırlarına değil, enerjisel sürdürülebilirlik sınırlarına dayanmış durumdayız. Artan sayıda araştırmacı, bu sorunun algoritmalarımızda veya silikon üretim tekniklerimizde değil, bilgisayarları inşa etme biçimimizin temel mimarisinde yattığına inanıyor.
Bu temel sorun, bilgisayar bilimleri tarihinde önemli bir yere sahip olan von Neumann mimarisiyle ilişkilidir. 1977'de FORTRAN'ın mucidi John Backus, modern bilgisayarların neredeyse tamamının temelini oluşturan bu mimariyi eleştirmişti. Backus, CPU, bellek ve bu ikisi arasında tek bir kelimeyi ileten "von Neumann darboğazı" olarak adlandırdığı bağlantı tüpünden oluşan yapının, veri aktarım hızını kısıtlayarak enerji verimliliğini düşürdüğünü belirtmiştir. Bu 80 yıllık darboğaz, günümüz yapay zeka sistemlerinin enerji açlığını açıklayan temel faktörlerden biri olarak görülüyor ve bilgisayar tasarımının kökten yeniden düşünülmesini gerektiriyor.
Yapay zekanın hızla artan enerji tüketimi, mevcut bilgisayar mimarilerinin sürdürülebilirlik sınırlarına ulaşmasıyla temelden bir tasarım değişikliğini zorunlu kılıyor.