HBM의 개요 및 현재 기술력 : sk하이닉스의 독주와 삼성전자의 도전

AI시대를 맞이하여 방대한 데이터 처리 속도를 위하여는 고성능 반도체가 필수요소입니다. 그 대안으로 확고한 자리매김을 하고 있는 반도체 기술이 HBM으로 현재 SK하이닉스가 최신 기술을 바탕으로 엔비디아에 독점으로 납품하며 전세계 HBM시장의 선도자로 주목을 받고 있습니다.

HBM 반도체 구조

1. HBM 개요 

HBM(High Bandwidth Memory, 고대역폭 메모리)은 초고속 데이터 전송을 위해 개발된 차세대 메모리 기술로, 여러 개의 DRAM 칩을 3D로 수직 적층하여 높은 데이터 처리 능력을 제공합니다. 기존 메모리보다 대역폭이 크고 전력 소모가 낮아, GPU, AI, 고성능 컴퓨팅(HPC) 등 고속 데이터 처리가 필요한 분야에서 널리 사용괴고 있으며 HBM은 좁은 공간에서 효율적인 설계를 가능하게 하며 최신 기술의 성능을 극대화하는 핵심 역할을 합니다.

HBM(High Bandwidth Memory)은 GDDR(Graphic Double Data Rate) 메모리에 비해 상당히 뛰어난 성능을 제공하지만, 초기에는 그 장점이 충분히 발휘되지 않았습니다. 초기 HBM 1세대가 등장했을 때, HBM 4개(총 4096-bit)와 GDDR 12개(총 384-bit)를 비교해 보았을 때 가격 대비 대역폭 및 용량 차이가 크지 않았습니다. 이런 이유로 HBM의 시장성이 의심받았고 특히 그래픽 메모리 수요가 상대적으로 낮았던 시기에는 그 필요성이 두드러지지 않았습니다.

2. HBM의 발전 과정

• 초기 단계의 문제: 초기 HBM 1세대는 GDDR과 비교해 성능 개선이 명확하지 않았습니다. 메모리의 높은 가격과 상대적으로 낮은 수요는 HBM의 시장 확산에 장애가 되었습니다. 특히 게임 및 일반적인 컴퓨터 작업에서 GDDR의 성능이 충분했기 때문에 HBM의 필요성이 크지 않았습니다. 이러한 이유로 삼성전자는 2019년에 HBM 사업을 일시적으로 철수하기도 했습니다.
• 기술 개선: 시간이 지남에 따라 HBM의 기술이 크게 발전하였고 GDDR과의 성능 격차가 점점 확대되었습니다. HBM의 경우 메모리 다이를 적층하여 대역폭과 용량을 대폭 증가시킬 수 있는 구조적 장점이 있습니다. GDDR은 구조적인 한계로 인해 성능 개선이 더디고 특히 대용량 메모리에서 HBM이 더 효과적인 성능을 발휘하게 되었습니다.
• 인공지능의 필요: 최근 들어 GPT, Stable Diffusion 등 대규모 인공지능 모델이 인기를 끌면서 HBM의 수요가 급증하였습니다. 이러한 모델들은 대량의 데이터 처리와 높은 대역폭을 필요로 하기 때문에 HBM이 필수적입니다. 메모리 대역폭이 빠를수록 모델의 처리 속도가 향상되므로, HBM의 역할이 중요해졌습니다.

2021 ~ 2022년 HBM3 발전

2021년부터 2022년 사이에 HBM의 발전은 크게 두 가지 주요 이정표를 중심으로 전개되었습니다: SK하이닉스의 HBM3 개발과 삼성전자의 HBM3 '아이스볼트' 개발입니다.

SK하이닉스의 HBM3 개발

발표 및 사양: 2021년에 SK하이닉스는 HBM3의 개발을 발표했습니다. 이 새로운 HBM3 메모리는 JEDEC 표준에 따라 2022년 1월 27일에 공식적으로 사양이 발표되었습니다. HBM3는 스택당 최대 819 GB/s의 대역폭을 제공하며 2개의 스택만으로도 약 1.6 TB/s의 대역폭을 달성할 수 있습니다.

이는 GDDR6X SGRAM의 21 Gbps 사양으로는 384-bit 구성에서 겨우 1 TB/s를 넘는 대역폭과 비교할 때, 상당히 높은 성능을 자랑합니다. 따라서, HBM3가 탑재된 제품이 제시간에 출시된다면 HBM3는 대역폭 우위를 계속 유지할 수 있을 것으로 보였습니다.

삼성전자의 HBM3 개발

개발 및 일정: 삼성전자는 2019년 HBM 사업을 일시적으로 철수했지만 이후 HBM3 개발을 재개했습니다. 2022년에는 HBM3 '아이스볼트(Icebolt)'라는 명칭의 제품을 개발했습니다. 그러나 삼성전자가 HBM3를 SK하이닉스보다 1년 늦게 개발한 결과 주요 고객인 엔비디아에 대한 납품이 어려운 상황이었습니다. 트렌드포스에 따르면, 삼성전자는 HBM3의 양산을 2023년 말에서 2024년 1월 사이로 예상하고 있습니다.

3. 2023년 HBM 시장 및 기술 발전

2023년은 HBM 기술의 발전과 시장 경쟁에서 중요한 전환점을 맞이한 해였습니다. 이 시기 동안 SK하이닉스와 삼성전자는 각각 HBM3 및 HBM3E의 개발과 공급을 두고 치열한 경쟁을 벌였으며 HBM 시장에서의 점유율 변화와 기술적 진전을 보였습니다.

SK하이닉스의 성과

• HBM3 독주: SK하이닉스는 2023년 엔비디아의 AI 가속기 H100에 HBM3를 공급함으로써 시장에서의 독주를 확립했습니다. 이로 인해 HBM3 시장에서 SK하이닉스는 압도적인 점유율을 기록하며 HBM3의 거의 전체를 차지하는 성과를 달성했습니다.
• HBM3E 개발: 2023년 8월, SK하이닉스는 HBM3E의 개발에 성공했습니다. 이로 인해 HBM 시장에서의 기술적 우위를 더욱 강화했으며 2024년부터의 상용화가 기대됩니다.

삼성전자의 도전

• HBM3P 스노우볼트: 삼성전자는 HBM3P 스노우볼트라는 명칭을 붙여 차세대 HBM을 개발했습니다. 그러나 HBM3 샘플에서 수율 문제를 우려한 엔비디아와의 협상에서 최종 계약에 이르지 못하고 조건부 가계약을 체결했습니다.
• 명칭 논란: 엔비디아는 HBM3E로 명명된 메모리에 대해 삼성전자가 붙인 HBM3P라는 명칭 변경을 요구했습니다.
• HBM3E 샤인볼트: 삼성전자는 2023년 10월, 샤인볼트(Shinebolt)라는 HBM3E 개발에 성공했다고 발표했습니다. 이로 인해 삼성전자는 HBM3E 시장에서도 입지를 강화하고자 했습니다.

4. 시장 점유율과 매출

• 시장 점유율: 2023년 HBM 시장에서 SK하이닉스와 삼성전자는 각각 53%와 38%의 점유율을 기록하며 두 기업이 합쳐서 90%에 달하는 점유율을 차지했습니다. 나머지 10%는 마이크론이 차지했습니다. 특히 HBM3의 경우 SK하이닉스가 90%의 점유율을 보였습니다.
• HBM3E 상용화: 2023년 11월, 엔비디아는 HBM3E가 탑재된 H200과 B100을 2024년 2분기에 출시한다고 발표했습니다. 또한 AMD와 인텔도 각각 HBM3가 탑재된 MI350과 가우디3를 출시할 예정입니다.
• 시장 규모: 2023년 HBM 시장 전체 규모는 약 40억 달러로 추정되며 2024년에는 120억 달러로 3배 증가할 것으로 예상되고 있습니다. SK하이닉스의 2023년 HBM 매출은 약 20억 달러에 달했습니다.

5. 2024년 HBM 기술 및 시장 동향

SK하이닉스의 기술 혁신

• 16단 HBM3E 공개: 2월, SK하이닉스는 16단 HBM3E 기술을 공개했습니다. 이 기술은 48GB 용량과 1.28TB/s의 대역폭을 처리할 수 있는 것으로 알려졌습니다. 이로 인해 SK하이닉스는 HBM3E 시장에서 기술적 우위를 계속해서 유지하고 있습니다.
• HBM3E 8단 양산: 3월 19일, SK하이닉스는 HBM3E 8단을 세계 최초로 양산하여 고객사에 납품을 시작한다고 발표했습니다. 이 제품은 엔비디아의 H200에 탑재될 예정입니다.
• 수율 공개: 5월 23일, SK하이닉스는 HBM3E의 수율이 80%에 육박한다고 밝혔습니다. 통상 수율은 영업 기밀로 취급되지만, 공개된 만큼 HBM3E의 생산 안정성에 대한 자신감을 나타낸 것입니다.

삼성전자의 도전과 논란

• HBM3E 테스트 문제: 5월 24일, 로이터 통신은 삼성전자가 HBM3와 HBM3E 칩에 대해 엔비디아의 테스트를 통과하지 못했다고 보도했습니다. 삼성전자는 테스트가 아직 결정되지 않았고 순조롭게 진행 중이라고 반박했으나 주가는 3% 하락했습니다.
• HBM3E 성과: 7월 24일, 삼성전자의 HBM3가 엔비디아의 퀄리티 테스트를 처음으로 통과했다고 보도되었습니다. 그러나 HBM3E는 기준치를 충족하지 못했다고 합니다. 이로 인해 삼성전자는 엔비디아의 H20에만 HBM3 물량을 납품하며 H100과 같은 고성능 제품에는 사용되지 않고 있습니다.
• HBM3E 8단 퀄리티 테스트: 8월 7일, 삼성전자의 HBM3E 8단이 엔비디아의 퀄리티 테스트를 통과했다는 보도가 있었으나, 삼성전자는 사실과 다르다고 반박했습니다.

마이크론의 움직임

• HBM3E 양산 시작: 2월 27일, 마이크론은 HBM3E의 양산을 시작한다고 발표했습니다. 이 제품은 엔비디아의 H200에 탑재될 예정이며 경쟁사보다 30% 높은 전력 효율성을 자랑한다고 밝혔습니다. 그러나 공급 확정 여부는 명확하지 않았습니다.
• 생산 물량과 문제: 6월 27일, 마이크론은 2025년도 HBM3E 생산 물량이 완판되었다고 발표했지만, 주가는 하락했습니다. 이는 다음 분기의 예상 가이던스가 낮기 때문입니다. 업계에서는 엔비디아향 HBM3E 8단의 초도 물량이 반려되는 등 생산 안정화에 어려움을 겪고 있다고 전했습니다.

결론

HBM의 역사를 살펴본 결과 2024년 현재 HBM 기술의 경쟁이 더욱 격화되며 SK하이닉스가 기술적 우위를 유지하는 가운데 삼성전자는 테스트 통과와 관련된 문제로 어려움을 겪었습니다. SK하이닉스는 HBM3E 16단과 8단을 성공적으로 양산하며 시장에서의 입지를 강화했고 수율 공개로 자신감을 드러냈습니다.

삼성전자의 경우 HBM3E의 테스트와 납품에서 어려움을 겪으며 H20에만 주력하는 상황이었습니다.하지만 이를 극복하기 위해 R&D에 많은 예산을 투자햐고 있습니다.  마이크론은 HBM3E의 양산을 시작했으나 생산 안정화와 수익성 문제로 어려움을 겪고 있으며 이러한 HBM 시장의 경쟁은 계속해서 기술 혁신과 생산 안정성을 중심으로 점점더 치열해 지고 있습니다.

함께 보면 유익한 정보!

반도체 소자의 개요 및 종류 : P-N 접합 다이오드, BJT, 쇼트키 다이오드

 

반도체 생산 공정에 따른 세 가지 주요 유형 : IDM, 팹리스, 파운드리

 

AI 기술과 모핑휠, 자율주행 기술이 화성 탐사와 거주 미치는 영향