HBM คืออะไร? หน่วยความจำซ้อนชั้นที่ GPU สำหรับ AI ต้องใช้ ตั้งแต่ HBM2E ถึง HBM4E

HBM (High Bandwidth Memory) คือหน่วยความจำ DRAM ที่นำชิปหลายชั้นมาซ้อนกันในแนวตั้ง เชื่อมแต่ละชั้นด้วย TSV แล้ววางไว้ชิด GPU หรือชิป AI ในแพ็กเกจเดียวกัน บัสข้อมูลกว้าง 1,024–2,048 บิตต่อ stack ทำให้ส่งข้อมูลได้ถึงระดับ TB/s ต่อ stack มาตรฐานล่าสุดคือ HBM4 ที่ JEDEC ประกาศเมื่อ 16 เมษายน 2025 และเป็นหน่วยความจำหลักของตัวเร่ง AI ระดับดาต้าเซ็นเตอร์ของ NVIDIA และ AMD

บทความนี้อธิบายว่า HBM ทำงานอย่างไร แต่ละรุ่นต่างกันแค่ไหน ชิปรุ่นใดใช้ HBM รุ่นใด เหตุที่ HBM ขาดตลาดจนดันราคาหน่วยความจำทั้งตลาด และสิ่งที่องค์กรไทยควรดูก่อนซื้อเซิร์ฟเวอร์ AI หรือเช่า GPU Cloud ตัวเลขทุกตัวมาจากหน้ามาตรฐานของ JEDEC และหน้าผลิตภัณฑ์หรือห้องข่าวของผู้ผลิต ณ วันที่ 8 ตุลาคม 2026

HBM ทำงานอย่างไร

Micron อธิบายว่า HBM เป็น DRAM แบบซ้อนสามมิติ แทนที่จะวางชิปหน่วยความจำเรียงบนแผงวงจร ผู้ผลิตนำ DRAM die หลายแผ่นมาซ้อนกันบน base die (ชั้นฐาน) แล้วเชื่อมทุกชั้นด้วย TSV (through-silicon via) และ microbump นับพันจุด SK hynix นิยาม TSV ว่าเป็นช่องทางรูปเสาที่เจาะทะลุความหนาของซิลิคอน ใช้ส่งข้อมูล คำสั่ง และกระแสไฟระหว่างชิปชั้นบนกับชั้นล่าง

แบนด์วิดท์ของ HBM คำนวณจากความเร็วต่อขาคูณจำนวนขาข้อมูลแล้วหารด้วย 8 เพื่อแปลงบิตเป็นไบต์ SK hynix ยกตัวอย่าง HBM2E ที่ 3.6 Gbps ต่อขา กับขาข้อมูล 1,024 ขา ได้ 3,686.4 Gbps หรือ 460.8 GB/s ต่อ stack จุดแข็งของ HBM จึงอยู่ที่ความกว้าง ไม่ใช่ความเร็วต่อขา Micron ระบุว่า HBM หนึ่ง cube มีบัสข้อมูล 1,024 บิต กว้างกว่า DDR5 module มาตรฐาน 16 เท่า ขณะที่ DDR5 อาศัยบัสแคบที่วิ่งด้วยสัญญาณนาฬิกาสูงมาก

การวางตัวก็สำคัญไม่แพ้กัน HBM อยู่ในแพ็กเกจเดียวกับ CPU หรือ GPU บน silicon interposer ระยะทางที่ข้อมูลต้องวิ่งจึงสั้น Micron ระบุว่าทำให้ใช้พลังงานต่อบิตต่ำกว่า ส่วน base die ชั้นล่างสุดเป็นชิปลอจิกที่ต่อ stack เข้ากับ interposer ใน HBM4 ของ Samsung ชิปนี้ผลิตด้วยกระบวนการลอจิก 4 นาโนเมตร คู่กับ DRAM รุ่น 1c ของบริษัท

ทำไม GPU สำหรับ AI ต้องใช้ HBM

งาน AI ต้องย้ายข้อมูลปริมาณมหาศาลระหว่างหน่วยความจำกับหน่วยประมวลผล ถ้าหน่วยความจำป้อนข้อมูลไม่ทัน ชิปที่แรงแค่ไหนก็ต้องรอ Micron สรุปว่าข้อได้เปรียบใหญ่ที่สุดของ HBM คือทำให้ชิปประมวลผลทำงานต่อเนื่องแทนที่จะนั่งรอข้อมูล

โมเดลภาษาขนาดใหญ่เห็นผลชัดที่สุด เพราะระหว่างสร้างคำตอบ โมเดลต้องอ่านน้ำหนัก (parameters) จากหน่วยความจำซ้ำแล้วซ้ำอีก SK hynix ยกตัวอย่างว่า GPU หนึ่งตัวที่ติด HBM3E แบบ 12 ชั้นสี่ stack อ่านพารามิเตอร์ทั้ง 70,000 ล้านตัวของ Llama 3 70B ได้ 35 รอบในหนึ่งวินาที แบนด์วิดท์จึงเป็นตัวกำหนดสำคัญของความเร็วในการตอบ

ความจุก็สำคัญพอกัน โมเดล 70,000 ล้านพารามิเตอร์ที่เก็บน้ำหนักแบบ 16 บิต (2 ไบต์ต่อพารามิเตอร์) ใช้หน่วยความจำราว 140 GB สำหรับน้ำหนักอย่างเดียว ยังไม่รวม KV cache ที่โตตามความยาวบทสนทนา AMD ระบุว่า HBM4 ขนาด 432 GB บน MI455X ช่วยให้โมเดลที่ใหญ่ขึ้น รวมทั้ง KV cache และ activation อยู่ในหน่วยความจำของ GPU ได้ ส่วน NVIDIA ระบุว่า H200 ซึ่งเป็น GPU รุ่นแรกที่ใช้ HBM3E มีหน่วยความจำ 141 GB เกือบสองเท่าของ H100 และแบนด์วิดท์มากกว่า 1.4 เท่า หน่วยความจำที่ใหญ่และเร็วขึ้นนี้ช่วยเร่งทั้งงาน Generative AI, LLM และงานคำนวณทางวิทยาศาสตร์ (HPC)

HBM แต่ละรุ่นต่างกันอย่างไร ตั้งแต่ HBM2E ถึง HBM4E

ตารางนี้รวมสเปกต่อ stack จากมาตรฐานของ JEDEC และจากผู้ผลิต รุ่นที่มีตัว E ต่อท้ายเป็นรุ่นต่อยอดที่ผู้ผลิตประกาศสเปกเอง ตัวเลขของรุ่นเหล่านี้จึงมาจากผู้ผลิต

จาก HBM2E ถึง HBM4E แบนด์วิดท์ต่อ stack เพิ่มขึ้นราว 8.7 เท่า มาจากสองทาง คือความเร็วต่อขาที่เพิ่มจาก 3.6 Gbps เป็นสูงสุด 16 Gbps และการขยายบัสเป็นสองเท่าใน HBM4 ซึ่งทำให้ HBM4 ตามมาตรฐานที่ 8 Gbps ยังได้แบนด์วิดท์มากกว่า HBM3E ที่วิ่งเร็วกว่าต่อขา มาตรฐาน HBM3 ของ JEDEC ยังเพิ่มช่องสัญญาณอิสระจาก 8 เป็น 16 ช่อง และเพิ่ม ECC บนชิปเพื่อความน่าเชื่อถือในระดับแพลตฟอร์ม

HBM4 และ HBM4E เปลี่ยนอะไรบ้าง

JEDEC ออกมาตรฐาน JESD270-4 HBM4 เมื่อ 16 เมษายน 2025 สาระหลักมีดังนี้

• บัส 2,048 บิต ที่ความเร็วสูงสุด 8 Gb/s ต่อขา ได้แบนด์วิดท์รวมสูงสุด 2 TB/s ต่อ stack
• ช่องสัญญาณเพิ่มเป็น 32 ช่อง จาก 16 ช่องใน HBM3 แต่ละช่องมี pseudo-channel 2 ช่อง
• ใช้ร่วมกับ controller ของ HBM3 ได้ controller ตัวเดียวรองรับทั้ง HBM3 และ HBM4 ได้หากต้องการ
• ซ้อนได้ 4, 8, 12 หรือ 16 ชั้น ใช้ die ขนาด 24 Gb หรือ 32 Gb ความจุสูงสุด 64 GB ต่อ stack
• Directed Refresh Management (DRFM) ช่วยรับมือการโจมตีแบบ row-hammer

สินค้าจริงวิ่งเร็วกว่ามาตรฐาน Samsung ประกาศเมื่อ 12 กุมภาพันธ์ 2026 ว่าเริ่มผลิต HBM4 จำนวนมากและส่งสินค้าเชิงพาณิชย์ให้ลูกค้าแล้ว ความเร็ว 11.7 Gbps เร่งได้ถึง 13 Gbps SK hynix เริ่มส่ง HBM4 จำนวนมากในไตรมาส 2/2026 ส่วน Micron ผลิต HBM4 ขนาด 36 GB แบบ 12 ชั้นในปริมาณมากแล้ว ความเร็วมากกว่า 11 Gb/s

HBM4E อยู่ในขั้นส่งตัวอย่าง SK hynix ส่งตัวอย่าง HBM4E แบบ 12 ชั้นให้ลูกค้าหลักเมื่อ 18 มิถุนายน 2026 ความเร็วสูงสุด 16 Gbps ต่อขา ความจุ 48 GB ประสิทธิภาพพลังงานดีขึ้นกว่า 20% ส่วน Samsung ระบุสเปก HBM4Eสูงสุด 64 GB แบบ 16 ชั้น แบนด์วิดท์ 4 TB/s โดยบริษัทคาดไว้ตั้งแต่กุมภาพันธ์ว่าจะเริ่มส่งตัวอย่าง HBM4E ในครึ่งหลังของปี 2026 และส่งตัวอย่าง custom HBM ที่ออกแบบตามสเปกของลูกค้าแต่ละรายในปี 2027