ข้ามไปยังเนื้อหา

ศัพท์ไอที · Hardware

HBM คืออะไร

หน่วยความจำแบนด์วิดท์สูง · หรือ High Bandwidth Memory, High-Bandwidth Memory, หน่วยความจำแบนด์วิดท์สูง

นิยามสั้น

หน่วยความจำ DRAM ที่ซ้อนชิปหลายชั้นในแนวตั้ง เชื่อมกันด้วย TSV และวางชิด GPU หรือชิป AI ในแพ็กเกจเดียว ใช้บัสข้อมูลกว้าง 1,024–2,048 บิต จึงส่งข้อมูลได้ระดับ TB/s ต่อ stack

HBM ย่อมาจาก High Bandwidth Memory คือหน่วยความจำ DRAM ที่นำชิปหลายชั้นมาซ้อนกันในแนวตั้งแทนการวางเรียงบนแผงวงจร แล้ววางไว้ชิดชิปประมวลผลอย่าง GPU หรือตัวเร่ง AI ในแพ็กเกจเดียวกัน มาตรฐานของ HBM กำหนดโดย JEDEC รุ่นล่าสุดคือ HBM4 (JESD270-4) ที่ประกาศเมื่อ 16 เมษายน 2025

HBM ทำงานอย่างไร

DRAM die แต่ละชั้นเชื่อมถึงกันด้วย TSV (through-silicon via) ซึ่ง SK hynix อธิบายว่าเป็นช่องทางรูปเสาที่เจาะทะลุความหนาของซิลิคอน ใช้ส่งข้อมูล คำสั่ง และกระแสไฟระหว่างชิปชั้นบนกับชั้นล่าง ทั้ง stack ตั้งอยู่บน base die และต่อกับ CPU หรือ GPU ผ่าน silicon interposer ตามคำอธิบายของ Micron

ความเร็วของ HBM มาจากความกว้างของบัส HBM หนึ่ง stack มีขาข้อมูล 1,024 บิต ซึ่ง Micron ระบุว่ากว้างกว่า DDR5 module มาตรฐาน 16 เท่า และ HBM4 ขยายเป็น 2,048 บิต แบนด์วิดท์คำนวณจากความเร็วต่อขาคูณจำนวนขาแล้วหารด้วย 8 เช่น HBM2E ของ SK hynix ที่ 3.6 Gbps ได้ 460.8 GB/s ต่อ stack ส่วนมาตรฐาน HBM4 กำหนดไว้สูงสุด 2 TB/s และซ้อนได้ 4, 8, 12 หรือ 16 ชั้น ความจุสูงสุด 64 GB ต่อ stack

ตัวอย่างการใช้งาน

  • GPU และตัวเร่ง AI ในดาต้าเซ็นเตอร์ สำหรับฝึกและให้บริการโมเดลภาษาขนาดใหญ่ ซึ่งต้องอ่านน้ำหนักของโมเดลจากหน่วยความจำอย่างต่อเนื่อง
  • งานคำนวณสมรรถนะสูง (HPC) เช่น การจำลองทางวิทยาศาสตร์ที่ต้องย้ายข้อมูลจำนวนมาก
  • การ์ดกราฟิกระดับสูงและเซิร์ฟเวอร์ ตามกลุ่มงานที่ JEDEC ระบุไว้ในมาตรฐาน HBM4

HBM ต่างจาก DDR5 และ GDDR อย่างไร

DDR5 เป็นหน่วยความจำหลักของ CPU ที่ติดตั้งเป็น module บนเมนบอร์ด ใช้บัสแคบกว่าแต่วิ่งด้วยสัญญาณนาฬิกาสูง และเพิ่มความจุได้ด้วยการเพิ่ม module ส่วน GDDR เป็นชิปหน่วยความจำแยกแพ็กเกจที่ JEDEC ออกแบบสำหรับงานกราฟิกและเกมเป็นหลัก รุ่น GDDR7 ให้แบนด์วิดท์สูงสุด 192 GB/s ต่อชิป HBM ให้แบนด์วิดท์ต่อชิ้นสูงกว่ามากและใช้พลังงานต่อบิตต่ำกว่าเพราะอยู่ใกล้ชิปประมวลผล แต่มีต้นทุนสูงกว่าและเพิ่มความจุภายหลังไม่ได้ เพราะติดมากับแพ็กเกจของชิป รายละเอียดแต่ละรุ่นและชิปที่ใช้ อ่านได้ที่HBM คืออะไร

แหล่งอ้างอิง

  1. JEDEC and Industry Leaders Collaborate to Release JESD270-4 HBM4 Standard — JEDEC
  2. High-bandwidth memory (HBM) — Micron Technology
  3. SK hynix Starts Mass-Production of High-Speed DRAM, HBM2E — SK hynix
  4. JEDEC Publishes GDDR7 Graphics Memory Standard — JEDEC

ปรับปรุงล่าสุด โดยกองบรรณาธิการ THAI DATA

ข่าวและบทความเกี่ยวกับ HBM