HBM

従来のパソコンで使われてきた一般的なメモリ（DRAM）が数十車線の道路だとすれば、HBMは一度に何千台もの車が並走できる1,024車線の巨大高速道路のようなものです。

通常のDRAMは、データをやり取りする伝送路（配線）の数が32本や64本程度にとどまります。道幅が狭いため、どれほど車（データ）のスピードを上げても、一度に通過できる量には限界がありました。一方、HBMは1,024本以上もの細い配線をぎっしりと並列に繋ぎます。1本あたりの伝送速度自体は必ずしも速くありませんが、車線の数が圧倒的に多いため、トータルの通行量は桁違いになります。

道幅がけた外れに広いため、同じ時間内にやり取りできるデータの総量、すなわち「帯域幅（バンド幅）」が爆発的に増大します。そのおかげで、超高画質グラフィックスや大規模なAI演算のように、一瞬で大量のデータを流し込む必要があるタスクでも、ボトルネックを生じることなくスムーズに処理できるのです。

HBMがこれほど広いデータ経路を実現できる秘密は、巧みな「立体建築」にあります。平屋を横にずらりと並べると建物間の行き来に時間がかかりますが、高層マンションを建てて超高速の直通エレベーターを通せば移動距離が劇的に縮まるのと同じ発想です。

ここで使われる中核技術が「TSV（シリコン貫通電極、Through-Silicon Via）」です。紙よりも薄く削り出したDRAMチップを何層も重ね、髪の毛よりも細い無数の微細な穴を開けて、導電性に優れた銅を隙間なく埋め込みます。これにより、上下のチップを垂直かつダイレクトに繋ぐのです。こうして作られた積層チップは「シリコンインターポーザ」と呼ばれる薄い中継基板の上でGPUと隣り合って配置され、インターポーザ内の超高密度な配線を通じて1,024本以上の通路で結ばれます。

チップ同士をマイクロメートル単位まで近づけて信号の移動距離を劇的に縮めたため、より少ない電力で大量のデータを送れるようになりました。ただし、チップを高密度に積み重ねるほど熱がこもりやすくなるため、放熱対策が今なお大きな技術的課題となっています。

大規模言語モデル（LLM）をはじめとする最新の生成AIは、数百億〜数千億個ものパラメータ（神経網のつながり）を一瞬のうちに読み書きしなければなりません。どれほど頭の回転が速い天才的な演算装置（GPU）があっても、机の上に資料を運んでくる助手が遅ければ、GPUは手持ち無沙汰で待たされることになります。

HBMは、そうした演算装置のすぐ隣に一体化するように密着配置され、桁違いのスピードでデータを届けてくれます。頼れる助手が電光石火の速さで必要な資料を次々と手渡してくれるため、GPUがデータの到着を待つ無駄な時間が大幅に減り、その圧倒的な計算性能をフルに引き出せるのです。

世界中の大手テック企業がこぞってAIデータセンターの構築を急ぎ、HBMの確保にしのぎを削っているのもこのためです。特に大規模AIの学習・推論を行うアクセラレータにおいて、HBMはシステム全体の性能を決定づける最重要パーツとなっています。