Yüksek Bant Genişliği Belleği - High Bandwidth Memory

Yüksek Bant Genişliği Belleği kullanan bir grafik kartını kesin. Bkz aracılığıyla silikon yolların (TSV).
Bilgisayar belleği ve veri depolama türleri
Genel
Uçucu
Veri deposu
Tarihi
uçucu olmayan
ROM
NVRAM
Erken aşama NVRAM
Analog kayıt
Optik
Geliştirilmekte
Tarihi

Yüksek Bant Genişliği Belleği ( HBM ), başlangıçta Samsung , AMD ve SK Hynix'ten 3B yığınlı senkronize dinamik rastgele erişimli bellek (SDRAM) için yüksek hızlı bir bilgisayar belleği arabirimidir . Yüksek performanslı grafik hızlandırıcılar, ağ cihazları, yüksek performanslı veri merkezi AI ASIC'leri ve FPGA'lar ile birlikte ve bazı süper bilgisayarlarda (NEC SX-Aurora TSUBASA ve Fujitsu A64FX gibi ) kullanılır. İlk HBM bellek yongası 2013 yılında SK Hynix tarafından üretildi ve HBM'yi kullanan ilk cihazlar 2015 yılında AMD Fiji GPU'lardı.

Yüksek Bant Genişliği Belleği, JEDEC tarafından Ekim 2013'te bir endüstri standardı olarak benimsenmiştir . İkinci nesil HBM2 , Ocak 2016'da JEDEC tarafından kabul edilmiştir.

teknoloji

Büyük ölçüde daha küçük bir form faktörü daha az güç kullanarak HBM daha yüksek bant genişliği elde DDR4 veya GDDR5 . Bu sekiz kadar istifleme ile elde edilir DRAM kalıplar ve tampon devresi ve test mantık içerebilir, isteğe bağlı bir taban kalıbı. Yığın, genellikle bir silikon aracı gibi bir alt tabaka aracılığıyla bir GPU veya CPU üzerindeki bellek denetleyicisine bağlanır . Alternatif olarak, bellek kalıbı doğrudan CPU veya GPU yongası üzerine istiflenebilir. Yığın içinde kalıp, silikon yoluyla geçişler (TSV'ler) ve mikro darbelerle dikey olarak birbirine bağlanır . HBM teknolojisi prensipte benzerdir ancak Micron Technology tarafından geliştirilen Hybrid Memory Cube (HMC) arayüzü ile uyumlu değildir .

HBM bellek veri yolu, DDR4 veya GDDR5 gibi diğer DRAM belleklerine kıyasla çok geniştir. Dört DRAM kalıbından (4‑Hi) oluşan bir HBM yığını, toplam 8 kanal için kalıp başına iki 256 bit kanala ve toplamda 1024 bit genişliğe sahiptir. Dört adet 4-Hi HBM yığınına sahip bir grafik kartı/GPU bu nedenle 4096 bit genişliğinde bir bellek veriyoluna sahip olacaktır. Buna karşılık, GDDR belleklerinin veri yolu genişliği, 512 bit bellek arabirimli bir grafik kartı için 16 kanallı 32 bit'tir. HBM, paket başına 4 GB'a kadar destekler.

DDR4 veya GDDR5'e göre belleğe daha fazla sayıda bağlantı, HBM belleğini GPU'ya (veya başka bir işlemciye) bağlamak için yeni bir yöntem gerektiriyordu. AMD ve Nvidia , belleği ve GPU'yu bağlamak için aracılar adı verilen amaca yönelik silikon yongalar kullandı . Bu aracı, bellek ve işlemcinin fiziksel olarak yakın olmasını gerektirme ve bellek yollarını azaltma gibi ek bir avantaja sahiptir. Bununla birlikte, yarı iletken cihaz imalatı , baskılı devre kartı imalatından önemli ölçüde daha pahalı olduğundan , bu, nihai ürüne maliyet ekler.

  • HBM DRAM kalıp

  • HBM denetleyicisi ölür

  • AMD Radeon R9 Nano grafik kartının GPU paketindeki HBM belleği

Arayüz

HBM DRAM, dağıtılmış bir arabirim ile ana bilgisayar hesaplama kalıbına sıkı bir şekilde bağlıdır. Arayüz bağımsız kanallara bölünmüştür. Kanallar birbirinden tamamen bağımsızdır ve birbirleriyle senkronize olmaları gerekmez. HBM DRAM, yüksek hızlı, düşük güçte çalışma sağlamak için geniş bir arayüz mimarisi kullanır. HBM DRAM, 500 MHz diferansiyel saat CK_t / CK_c kullanır ("_t" son eki, diferansiyel çiftin "doğru" veya "pozitif" bileşenini belirtir ve "_c", "tamamlayıcı" olanı belirtir). Komutlar, CK_t, CK_c'nin yükselen kenarında kaydedilir. Her kanal arabirimi, çift veri hızında (DDR) çalışan 128 bitlik bir veri yolu sağlar. HBM, pin başına 1 GT/sn (1 bit aktaran) aktarım hızlarını destekler  ve 128 GB/sn'lik bir toplam paket bant genişliği sağlar.

HBM2

İkinci nesil Yüksek Bant Genişliği Belleği, HBM2 de yığın başına sekiz adede kadar kalıp belirtir ve 2 GT/s'ye kadar pin aktarım hızlarını ikiye katlar  . 1024 bit genişliğinde erişimi koruyan HBM2, paket başına 256 GB/sn bellek bant genişliğine ulaşabilir. HBM2 özelliği, paket başına 8 GB'a kadar izin verir. HBM2'nin özellikle sanal gerçeklik gibi performansa duyarlı tüketici uygulamaları için faydalı olacağı tahmin ediliyor .

19 Ocak 2016'da Samsung , yığın başına 8 GB'a kadar HBM2'nin erken seri üretimini duyurdu. SK Hynix ayrıca Ağustos 2016'da 4 GB'lık yığınların mevcut olduğunu duyurdu.

  • HBM2 DRAM kalıbı

  • HBM2 denetleyici ölür

  • Radeon RX Vega 64 GPU'nun, çıkarılmış HBM kalıplarıyla birlikte HBM2 aracısı ; GPU hala yerinde

HBM2E

2018'in sonlarında JEDEC, artan bant genişliği ve kapasiteler sağlayan HBM2 spesifikasyonunda bir güncelleme duyurdu. Yığın başına 307 GB/s'ye kadar (2,5 Tbit/sn etkin veri hızı) artık resmi özelliklerde destekleniyor, ancak bu hızda çalışan ürünler zaten mevcuttu. Ek olarak, güncelleme, yığın başına 24 GB'a kadar kapasiteleri mümkün kılan 12‑Hi yığınları (12 kalıp) için destek ekledi.

20 Mart 2019'da Samsung , yığın başına sekiz kalıp, 3,2 GT/s aktarım hızı ve yığın başına toplam 16 GB ve 410 GB/s sağlayan Flashbolt HBM2E'yi duyurdu  .

12 Ağustos 2019, SK Hynix , yığın başına sekiz kalıp, 3,6 GT/s aktarım hızı ve yığın başına toplam 16 GB ve 460 GB/s sağlayan HBM2E'lerini duyurdu  . 2 Temmuz 2020'de SK Hynix, seri üretimin başladığını duyurdu.

HBM3

2020'nin sonlarında Micron , HBM2E standardının güncelleneceğini açıkladı ve bunun yanı sıra HBMnext (daha sonra HBM3 olarak yeniden adlandırıldı) olarak bilinen bir sonraki standardı açıkladılar. Bu, HBM2'den nesiller boyu büyük bir sıçrama ve HBM2E'nin yerini alıyor. Bu yeni VRAM , 2022 yılının 4. çeyreğinde piyasaya çıkacak. Bu, muhtemelen adından da anlaşılacağı gibi yeni bir mimari sunacak.

İken mimarisi elden olabilir, sızıntı güncellenen HBM2E standardına benzer olması performansa işaret eder. Bu RAM'in daha çok veri merkezi GPU'larında kullanılması muhtemeldir .

2021 yılının ortalarında SK Hynix , 5,2 Gbit/s I/O hızları ve paket başına 665 GB/s bant genişliğinin yanı sıra 16'ya kadar yüksek 2.5D ve 3D çözümlerle HBM3 standardının bazı özelliklerini açıkladı.

HBM-PIM

Şubat 2021'de Samsung , bellekte işleme ile HBM'nin geliştirildiğini duyurdu. Bu yeni bellek, verilerin büyük ölçekli işlenmesini artırmak için AI hesaplama yeteneklerini belleğin içine getiriyor. Paralel işlemeyi sağlamak ve veri hareketini en aza indirmek için her bellek bankasının içine DRAM için optimize edilmiş bir AI motoru yerleştirilmiştir. Samsung, sistemin geri kalanında herhangi bir donanım veya yazılım değişikliği gerektirmeden bunun sistem performansını iki katına çıkaracağını ve enerji tüketimini %70'ten fazla azaltacağını iddia ediyor.

Tarih

Arka plan

Kalıp yığınlı bellek, başlangıçta flash bellek endüstrisinde ticarileştirildi . Toshiba , Nisan 2007'de sekiz yığılmış kalıba sahip bir NAND flash bellek yongasını piyasaya sürdü , ardından Hynix Semiconductor , Eylül 2007'de 24 yığınlı kalıba sahip bir NAND flash yongasını tanıttı.

(TSV) teknolojisi aracılığıyla silikon kullanan 3B yığınlı rastgele erişimli bellek (RAM ), Eylül 2009'da ilk 8 GB DRAM yongasını (dört DDR3 SDRAM kalıbıyla yığılmış ) geliştiren ve Haziran'da piyasaya süren Elpida Memory tarafından ticarileştirildi . 2011. 2011'de SK Hynix , TSV teknolojisini kullanan 16 GB DDR3 belleği ( 40 nm sınıfı) piyasaya sürdü , Samsung Electronics Eylül ayında TSV'ye dayalı 3D yığınlanmış 32 GB DDR3'ü ( 30 nm sınıfı) tanıttı ve ardından Samsung ve Micron Technology TSV- 'yi duyurdu. Ekim ayında Hybrid Memory Cube (HMC) teknolojisine dayalı .       

JEDEC , birkaç yıllık çalışmanın ardından Aralık 2011'de, tek veri hızı saatli dört 128 bit kanal içeren HBM'nin öncülü olan Geniş IO belleği için JESD229 standardını ilk kez yayınladı. İlk HBM standardı JESD235 bunu Ekim 2013'te izledi.

Gelişim

AMD Fiji , HBM kullanan ilk GPU

Yüksek Bant Genişlikli Belleğin geliştirilmesi, sürekli artan güç kullanımı ve bilgisayar belleğinin form faktörü sorununu çözmek için 2008 yılında AMD'de başladı. Önümüzdeki birkaç yıl içinde AMD, Kıdemli AMD Üyesi Bryan Black liderliğindeki bir ekiple kalıp istifleme sorunlarını çözmek için prosedürler geliştirdi. AMD'nin HBM vizyonunu gerçekleştirmesine yardımcı olmak için, bellek endüstrisinden ortaklar, özellikle de 3D yığın bellek konusunda önceden deneyime sahip olan Koreli şirket SK Hynix'in yanı sıra aracı endüstrisinden (Tayvanlı şirket UMC ) ve paketleme endüstrisinden ortaklar oluşturdular ( Amkor Teknoloji ve ASE ).

HBM'nin gelişimi, SK Hynix'in ilk HBM bellek yongasını ürettiği 2013 yılında tamamlandı. HBM tarafından endüstri standardı JESD235 olarak kabul edilmiştir JEDEC bir Hynix hapishanesinde başlayan 2010. Yüksek hacimli üretim AMD ve SK Hynix önerisi sonrasında Ekim 2013 yılında Icheon'da 2015 yılında, Güney Kore.

HBM kullanan ilk GPU, Haziran 2015'te AMD Radeon R9 Fury X'e güç veren AMD Fiji idi.

Ocak 2016'da Samsung Electronics , HBM2'nin erken seri üretimine başladı. Aynı ay, HBM2, JEDEC tarafından standart JESD235a olarak kabul edildi. HBM2 kullanan ilk GPU yongası , Nisan 2016'da resmi olarak duyurulan Nvidia Tesla P100'dür .

Haziran 2016'da Intel , Micron'un HBM sürümü olan 8 yığın HCDRAM içeren bir Xeon Phi işlemci ailesini piyasaya sürdü . At Sıcak Chips Ağustos 2016 yılında, Samsung ve Hynix hem yeni nesil HBM bellek teknolojilerini açıkladı. Her iki şirket de artan yoğunluğa, artan bant genişliğine ve daha düşük güç tüketimine sahip olması beklenen yüksek performanslı ürünleri duyurdu. Samsung ayrıca, kitle pazarlarını hedefleyen geliştirilmekte olan HBM'nin daha düşük maliyetli bir sürümünü de duyurdu. Tampon kalıbının çıkarılması ve TSV'lerin sayısının azaltılması, genel bant genişliğinin azalması (200 GB/sn) pahasına olsa da maliyeti düşürür.

Ayrıca bakınız

Referanslar

Dış bağlantılar