[디지털데일리 배태용 기자] 지난해와 올해는 AI(인공지능)와 관련한 소식들이 쏟아졌습니다. 오픈AI가 선보인 대형 언어 모델 챗GPT가 주목받은 이후, 마이크로소프트, 구글 등 글로벌 빅테크 기업들이 일제히 관련 투자를 늘리고 직접 개발에 나섰기 때문인데요.

우리나라 빅테크 기업인 네이버와 카카오도 관련 소프트웨어 개발에 나서는 등 AI는 인류에 있어서 새 미래를 열 핵심 '기술'로 자리 잡아가고 있습니다.

이 때문에 AI 시장의 규모와 성장률은 갈수록 높아지고 있습니다. IDC에 따르면 2021년 전 세계 AI 시장 규모를 전년 대비 16.4% 성장한 3275억 달러로 전망했고, 2024년까지 5543억 달러에 이를 것이라는 예측했습니다.

국내 AI 시장도 빠르게 성장하고 있습니다. 한국IDC에 따르면 국내 AI 시장이 향후 5년간 연평균 14.9% 성장세를 이어가며 2027년에는 4조4636억원 규모의 시장을 형성할 것으로 전망했습니다. 올해는 전년비 17.2% 성장한 2조6123억원 규모를 형성할 것으로 예측했습니다.

이렇게 AI가 주목받고 있는 가운데 관련 뉴스에서 자주 등장하는 것이 있습니다. 바로 HBM(High-Bandwidth Memory⋅고대역폭 초고속 메모리)입니다. 국내 반도체 기업들은 반도체 업황 불황 속에서도 AI 시장의 성장에 따라 HBM 수요가 증가하고 있다며, 이를 중심으로 성장 모멘텀을 이어갈 수 있을 것이라고 공언하고 있습니다.

AI가 뜨는데 왜 HBM가 주목받고 있는 걸까요? 이를 알기 위해선 컴퓨터 메모리 작동 원리를 먼저 이해해야 합니다. 컴퓨터 메모리는 연산과 저장이라는 두 가지 기능을 수행합니다. 하지만 이 두 가지 기능은 서로 다른 장치에서 이뤄집니다. 연산은 CPU가, 저장은 메모리가 담당합니다.

CPU와 메모리 사이에는 데이터를 주고받는 통로가 있습니다. 이 통로의 너비를 대역폭이라고 합니다. 대역폭은 컴퓨터의 성능에 큰 영향을 미칩니다. 특히 3차원 그래픽과 같은 복잡한 데이터를 처리할 때는 대역폭이 넓을수록 좋습니다. 그래서 기존의 메모리 방식을 개선하기 위한 여러 시도가 있었습니다. 그중 하나가 HBM입니다.

HBM은 다른 메모리 반도체보다 대역폭이 높아서, 방대한 양의 데이터를 빠르게 처리할 수 있습니다. AI와 같은 고성능 컴퓨팅 작업에서는 대역폭이 매우 중요하기 때문에, HBM이 주목받고 있는 것입니다. AI 작업은 대량의 데이터를 빠르게 처리해야 하므로, 고대역폭 메모리가 필수적입니다.

HBM의 특징은 메모리 칩을 쌓아 올리는 것입니다. 기존의 메모리 칩은 한 층으로 이루어져 있었습니다. 하지만 HBM은 최대 12개의 메모리 칩을 층층이 쌓아 올립니다. 그리고 각 층을 TSV라는 기술로 연결합니다. TSV는 Through Silicon Via의 약자로, 실리콘을 관통하는 작은 구멍을 만들어 전기적으로 연결하는 기술입니다.

HBM은 이렇게 메모리 칩을 쌓아 올리기 때문에, 같은 면적에 더 많은 메모리 트랜지스터를 담을 수 있습니다. 메모리 트랜지스터는 데이터를 저장하는 기본 단위입니다. 메모리 트랜지스터가 많으면 많을수록 더 많은 데이터를 저장하고 전송할 수 있습니다. 따라서 HBM은 기존의 메모리보다 대역폭이 약 128배나 넓습니다.

HBM은 처음에는 복잡한 구조와 낮은 수율로 인해 인기가 없었습니다. 하지만 AI의 발전과 함께 HBM의 장점이 부각되었습니다. AI는 연산과 저장을 반복하는 작업을 수행합니다. 이때 대역폭이 넓으면 더 빠르고 정확하게 AI를 구동할 수 있습니다. HBM은 대역폭이 뛰어난 메모리로, AI의 성능을 향상하는 데 필수적인 역할을 합니다.

현재 HBM 시장은 우리나라의 삼성전자와 SK하이닉스가 주도하고 있습니다. 이 두 기업은 HBM 수요가 증가하는 가운데, 생산 능력을 확대하고 있습니다. 양사는 내년 차세대 HBM인 HBM4(삼성전자⋅5세대), HBM3E(SK하이닉스⋅4세대) 양산을 준비하고 있습니다.

HBM 시장은 앞으로도 계속 성장할 것으로 예상됩니다. 시장 조사 기관인 TrendForce에 따르면, HBM 시장은 2024년까지 30%의 연평균 성장률을 기록할 것으로 전망했습니다. 인공지능의 발전과 함께 HBM의 수요가 더욱 증가할 것이란 예측이지요.

하지만 도전과제도 있습니다. HBM은 복잡한 구조와 낮은 수율로 인해 비용이 많이 들고 공급이 부족하다는 것입니다. 또한, 미국의 마이크론 테크놀로지라는 기업도 차세대 HBM를 양산, 시장에 본격 진입하려고 하려는 등 경쟁이 더욱 격화될 것으로 예상되는 만큼, 향후 시장이 어떻게 흘러갈지는 지켜봐야 할 듯싶습니다.