[디지털데일리 고성현 기자] 인공지능(AI) 인프라 확대로 고대역폭메모리(HBM) 수요가 높아지면서 내년 출시될 6세대 제품 'HBM4'에 대한 경쟁 구도 역시 심화되고 있다. SK하이닉스가 기존에 확보한 리더십을 발휘할 것으로 보이는 가운데, 삼성전자와 마이크론 등이 이를 어떻게 추격해나갈지가 관심이다.

특히 생산 공정의 변화가 불가피해지면서 '꿈의 패키징 공정'으로 꼽히는 하이브리드 본딩이 적용될지도 주목된다. 반도체 업계에서는 이를 당장 양산 공정에 적용하기 어려운 만큼, 중간 가교 역할을 하는 마일드 하이브리드 본딩을 통해 우선 대응하겠다는 목표를 내세웠다.

12일 업계에 따르면 엔비디아가 2026년 출시할 GPGPU 모델인 '루빈(Rubin)'에는 HBM4가 탑재될 예정이다. 일반 모델에는 HBM4 8개가, 루빈 울트라에는 HBM4 12개가 탑재된다.

HBM은 D램 여러개를 수직으로 적층해 단일 D램 대비 대역폭을 크게 확장한 메모리다. 대규모 데이터 처리가 요구되는 AI 인프라에 주로 채택되고 있으며, AI가속기나 GPU에 탑재되는 식으로 활용된다.

현재 공급 중인 HBM3E(5세대)까지의 주도권을 쥐고 있는 기업은 SK하이닉스다. AI용 GPU 시장의 독점적 지위를 확보한 엔비디아에 대규모 물량을 공급하고 있으며, 내년 출시될 차세대 GPU '블랙웰' 시리즈에도 HBM3E 12단을 납품하기 위해 준비하고 있다. SK하이닉스는 빨라지는 AI가속기 발전 및 데이터 처리량 요구에 따라 차세대 HBM 개발 시기를 앞당기고, HBM3E 16단 제품 개발에 돌입하는 등 관련 양산을 서두르고 있다. 이밖에 마이크론이 HBM3E 8단 납품에 성공한 바 있으며, 삼성전자는 HBM3E 8단 제품 공급 준비와 HBM3E 12단 및 개선품을 공급하기 위한 시도를 잇고 있다.

반도체 업계에서는 내년 샘플 공급을 시작으로 양산될 HBM4부터 현재 시장의 공급 구도가 뒤바뀔 수 있을 것으로 내다보고 있다. I/O 단자 연결 등을 지원하던 로직 다이(베이스 다이)의 기능이 데이터 처리량 급증·성능 고도화 등을 이유로 강화되는 추세인 데다, 기존과 달리 5나노미터(㎚)이하의 로직 칩으로 구성될 전망이어서다. 따라서 시스템반도체 영역인 첨단 로직 다이 설계·제조 능력을 확보하는 기업이 차기 HBM4 공급 경쟁에서 우선순위를 잡을 수 있을 것으로 예상된다.

생산 공정 측면에서도 변화가 예고되고 있다. 최대 단수가 양산 기준 12단인 HBM3E까지는 기존 공법으로 대응 가능하지만 HBM4부터는 최소 단수가 16단으로 늘어나 이를 해결할 신규 기술이 필요해서다. 특히 열압착(TC)을 통해 코어 다이를 붙이는 과정이 포함되는 만큼, 이를 올바르게 정렬하면서도 휨(Warpage) 현상 등 불량없이 제조하는 것이 핵심으로 꼽힌다.

이를 해결하기 위한 대안으로 하이브리드 본딩 기술이 떠오르고 있으나 실제 상용화까지는 시간이 걸릴 것으로 예상된다. 하이브리드 본딩은 D램을 별도 연결 단자인 범프 없이 구리를 직접 붙이는 기술로 HBM 두께를 완화하면서도 신호 이동 전달 속도를 개선할 수 있는 방식이다. 이 기술은 현재 3D 패키징 등 일부 시스템반도체 공정에는 활용되고 있으나, 메모리는 D램을 얇게 갈아주는 연마(CMP) 공정의 평탄도 수준이 낮고 미세오염물질(Particle) 제거가 어려운 점 등으로 인해 적용이 되지 않고 있다.

이에 따라 SK하이닉스는 HBM4까지 기존 기술인 어드밴스드 매스리플로우-몰디드언더필(MR-MUF)를 기반으로 하되, 이를 개선한 신기술을 적용해 HBM4 이상 규격을 구현하겠다는 방침을 세웠다. 업계 내에서는 이 방식에 하이브리드 본딩 이전 가교 역할을 한다는 의미를 담아 '마일드 하이브리드 본딩'으로 부르고 있다.

다만 아직 마일드 하이브리드 본딩 방식에 대한 구체적인 정의는 내려지지 않은 것으로 전해졌다. 칩을 연결하기 위해 도포하는 플럭스(Flux)를 쓰지 않는 플럭스리스(Fluxless) 방식이나 MR-MUF와 열압착-비전도성필름압착(TC-NCF)의 강점을 결합한 방식 등이 검토되는 단계로 풀이된다.

한 반도체 업계 관계자는 "하이브리드 본딩이 당장 적용되기 어려운 만큼 이를 거쳐가는 마일드 하이브리드 본더에 대한 요구는 높아지고 있으나, 아직 개별 업체마다 정의가 다르고 방식도 달라 하나로 일원화된 것은 없다"며 "각 메모리 제조사마다 적용하는 공법이 달라 맞춤형 장비가 될 가능성도 있다"고 설명했다.

삼성전자는 HBM4 진입을 위해 하이브리드 본딩 기술 개발을 서두르고 있다는 전망이 나온다. 다만 현실적으로 내년부터 적용하기는 어려운 만큼 SK하이닉스와 마찬가지로 기존 공법에 신규 기술을 더한 마일드 하이브리드 본딩 방식을 택할 가능성 역시 있는 것으로 알려졌다.

한편, 양사는 HBM4용 로직 다이 제조를 위해 대만 파운드리인 TSMC와의 협력 가능성을 높이고 있다. SK하이닉스는 HBM4부터 TSMC가 생산하는 로직 다이를 활용하겠다고 공식화한 바 있다.

삼성전자는 지난 3분기 컨퍼런스 콜에서 자체 시스템반도체 설계·제조를 활용해 로직 다이 개발을 지속하는 한편, 특정 고객사로 향하는 커스텀 HBM의 경우 파운드리 파트너 선정을 내외부 관계 없이 유연하게 대응하겠다는 입장을 밝혔다. 업계는 현재 첨단 로직 다이 생산이 가능한 파운드리가 TSMC 외에 전무한 만큼, 이 발언이 TSMC 활용을 시사하는 것이라고 내다봤다.