[디지털데일리 배태용 기자] AI와 고성능 컴퓨팅(HPC) 시대의 핵심 기술은 단연 'HBM(고대역폭메모리)'이다. CES 2025 SK그룹 부스에서는 이러한 HBM 기술이 실제 AI 서버에 어떻게 활용되고 있는지 구체적으로 선보였다. 엔비디아의 차세대 GPU와 결합된 HBM3E는 초고속 데이터 처리와 높은 전력 효율성을 앞세워 AI 시대의 핵심 메모리로 자리 잡았다.

SK그룹은 이번 CES 2025에서 HBM3E(High Bandwidth Memory 3E)를 중심으로 AI 서버의 구조를 설명하고, 반도체 기술의 진화 과정을 직접 체험할 수 있는 전시를 마련했다.

부스의 중심에는 엔비디아의 차세대 GPU와 HBM3E가 결합된 서버 구조가 자리했다. 엔비디아의 '그레이스 블랙웰 슈퍼칩(Grace Blackwell Superchip)'은 HBM3E 8개가 탑재된 GPU 2개와 CPU 1개를 포함하며, 데이터 처리 속도와 전력 효율성을 극대화한 제품이다.

서버는 이 슈퍼칩을 기반으로 구성된다. 서버 한 칸에는 GPU 18개가 장착되며, 전체 서버에는 총 72개의 GPU가 탑재돼 초고속 병렬 연산을 가능케 한다. 이는 AI 모델의 훈련과 추론 속도를 비약적으로 향상시키는 구조다.

현장 관계자는 "HBM3E는 기존 메모리에 비해 최대 3배 이상의 데이터 전송 속도를 제공하며, 더 적은 전력으로 대규모 연산을 처리할 수 있다"라며 "이러한 특성은 AI와 HPC(고성능 컴퓨팅) 분야에서 필수적인 요소"라고 설명했다.

HBM3E는 패키지 기판 위에 베이스 다이와 16단의 디램을 쌓아 올린 구조를 가지고 있다. 이 과정에서 SK하이닉스는 TSV(실리콘 관통 전극)와 MR-MUF(매스 리플로우 - 몰디드 언더 필) 공법을 활용했다. TSV는 실리콘 기판을 관통하는 미세 구멍을 통해 데이터를 전달하며, MR-MUF는 패키지의 신뢰성과 안정성을 높이는 기술이다.

전시장에는 HBM3E 16단의 구조를 디오라마 형식으로 전시해 관람객의 이해를 도왔다. 패키지 기판 위에 베이스 다이를 올리고, 그 위에 16단 디램과 GPU가 적층된 구조를 한눈에 볼 수 있었다.

현장 관계자는 "HBM3E의 제조는 높은 기술적 난이도를 요구한다"라며 "TSV를 통한 데이터 처리 속도와 MR-MUF 공법으로 구현한 안정성이 SK하이닉스의 경쟁력"이라고 강조했다.

HBM3E는 엔비디아의 GPU뿐만 아니라 다양한 산업 분야에서 활용될 전망이다. 자율주행차의 센서 데이터 처리, 데이터센터의 대규모 데이터 분석, 클라우드 서비스의 고속 데이터 전송 등 고속·고용량 데이터 처리가 필요한 분야에서 HBM3E는 중요한 역할을 할 것으로 보인다. 시장이 이렇게 흘러가는 만큼, SK그룹은 메모리 반도체 계열사 SK하이닉스의 HBM3E 기술을 기반으로 글로벌 반도체 시장에서의 입지를 더욱 강화할 계획이다.

현장 관계자는 "HBM3E는 AI 시대를 여는 데 필요한 핵심 기술"이라며 "SK하이닉스는 이러한 기술력을 바탕으로 고객과의 협력뿐만 아니라 시장에서의 리더십을 강화해 나갈 것"이라고 말했다.