[디지털데일리 배태용 기자] 지난해 오픈AI 챗GPT의 등장으로 본격적으로 AI(인공지능) 시장이 열렸습니다. 불과 1년 만에 구글, 네이버 등 빅테크 기업들도 일제히 챗GPT와 같은 LLM(대규모 언어모델)을 내놓았으며, LLM뿐만 아니라 이미지 생성, 영상 편집, 번역 등 분야에서도 AI 모델이 등장했습니다.

빠르게 성장 중인 AI 시장. 이제 시작이라는 것 알고 계시죠? 앞으로는 지금보다 더 고도화된 AI 모델이 대거 등장할 것이라고 예상됩니다. 자동차, 로봇 등 다양한 제품에 AI 기능이 탑재되며 혁신을 가져올 것으로 기대되는데요.

자연어 명령으로 자동차가 목적지까지 주행할 뿐 아니라 로봇을 조종, 창작 활동을 하는 것이 가능해질 뿐만 아니라 이미지와 인터넷 데이터에서 사물과 얼굴을 식별하고, 인간과 유창하게 대화하는 등 다양한 방면에서 적용 사례가 나타날 것으로 예상됩니다. 이러한 전망이 현실이 되기 위해선 지금의 AI를 더 고도화하는 게 중요합니다.

이를 위해서 막대한 책임감을 느끼고 있는 업계가 있습니다. 바로 반도체 업계입니다. 대규모 데이터를 동시다발적으로 방대하게 처리하며 구현되는 AI에는 고성능 AI칩을 필요로 하기 때문인데요. 이 AI칩엔 고도화된 메모리 반도체가 필요합니다. 현재 오픈AI의 챗GPT나 구글의 제미니(Gemini)뿐 아니라 아마존, 메타 등 빅테크 기업들은 모두 엔비디아의 GPU(그래픽처리장치) 모델 H100, A100 등을 이용해 AI를 개발, 서비스하고 있습니다.

이 엔비디아의 GPU에는 우리나라의 삼성전자, SK하이닉스가 생산하고 있는 HBM(고대역메모리)가 들어가고 있습니다. 다시 말해, AI를 고도화하기 위해선 GPU와 같은 AI칩의 성능이 더 좋아져야 하며, 이를 위해선 HBM 메모리 반도체의 성능이 가장 먼저 고도화돼야니다.

그렇다면 HBM은 어떻게 고도화할 수 있을까요. HBM은 D램을 수직으로 쌓은 형태를 하고 있습니다. D램을 수직으로 쌓으면 메모리 뱅크의 수가 늘어나 데이터를 동시에 더 많이 처리할 수 있을 뿐 아니라 거리가 줄어들어 데이터 접근 지연이 감소합니다.

이렇게 메모리 대역폭을 크게 향상해 데이터 처리 속도를 높이고 시스템 전체 성능을 향상하는 것이지요. 삼성전자와 SK하이닉스가 HBM을 8단, 12단 적층에 성공했다고 홍보하는 것도 다 이 같은 의미를 지닌 것입니다.

이러한 적층은 현재 크게 두가지 공정을 거치는데요. TSV(Through Silicon Via⋅실리콘관통전극) 기술을 통해 수직으로 연결하는 공정을 거친 다음, 이 구멍이 잘 붙을 수 있도록 하는 TC(Thermo-Compression) 본딩을 통해 완성 짓습니다. 현재 HBM 시장을 지배하고 있는 양대 메모리 기업 삼성전자와 SK하이닉스는 서로 다른 TC 본딩 방법론을 채택하고 있는데요.

삼성전자는 반도체 칩 사이에 NCF라는 필름을 덧대고 열과 압력을 가해 칩을 결합하는 TC-NCF 공정을, SK하이닉스는 액체 형태의 보호재를 주입해 굳히는 공정인 MR-MUF 공적을 채택하고 있습니다. 하지만 이 두 공정 모두 고성능 HBM 메모리 제조에는 한계가 있습니다.

TC-NCF 공정의 경우, TSV 공정에 뚫은 TSV 공정을 통해 뚫음 천여 개의 구멍에 연결된 범프에 일정하게 열과 압력을 전달하기가 어렵습니다. 더미 범프를 포함한 물리적 에너지를 전체에 골고루 전달하는 것에 한계가 있는 것이지요. 또한, 칩을 얇게 만들기 위해 필요한 그라인딩 공정에서 균일하지 않은 두께로 인해 불량률이 높아질 수 있으며, 한 번에 많은 칩을 생산할 수 없다는 단점도 있습니다.

MR-MUF 공정은 범프 피치가 일정 마이크로미터(μm) 이하가 되면 충진성이 보장되지 않는 문제가 있으며, 리플로우(Reflow) 공정에서 칩이 휘어지는 현상 등의 문제가 발생한다고 합니다.

이러한 단점 등을 해결하기 위해 등장한 것이 '하이브리드 본딩' 입니다. 하이브리드 본딩은 반도체(다이)와 반도체, 혹은 반도체와 웨이퍼를 직접 연결하는 기술으로 기존 반도체 연결에 필요했던 소재(범프)를 없애 패키지 두께를 줄이고, 신호 전송 속도가 개선하는 것이 특징입니다.

데이터 처리량을 대폭 확대할 수 있어 AI 반도체 구현에 필수로 손꼽힙니다. 이 기술은 난도가 높아 세계 최대 파운드리 업체인 TSMC가 일부 공정에 적용한 것을 제외하고는 아직 상용화 사례가 매우 적습니다.

현재 삼성전자와 SK하이닉스 모두 하이브리드 본딩 방식을 개발에 착수한 것으로 전해집니다. 업계 안팎에선 6세대 HBM인 HBM4, 혹은 그 이후 제품부터 하이브리드 본딩이 점차 적용될 것으로 내다보고 있는데요. 향후 제품 구입이 예상되는 만큼, 한미반도체, 한화정밀기계, 어플라이드 머티어리얼즈 등 이 국내외 다수의 반도체 장비 기업들은 이에 대한 준비해 착수, 관련 장비를 개발하고 있습니다. 삼성전자와 SK하이닉스 등이 과연 어떤 업체의 하이브리드 본딩 장비를 수급해 올지는 업계의 주요 관전 요소 중 하나입니다.