[디지털데일리 배태용 기자] 'SK AI 서밋 2024'가 4일 막을 올리며 SK 그룹의 최신 AI 기술을 대중에 공개했다. 그룹의 계열사들이 연구해 온 AI 관련 신기술들이 한자리에 모여 첨단 기술 전시의 장을 만들었다.

올해 서밋에서 가장 이목을 끈 것은 처음으로 공개된 HBM3E 16단이다. 오전에 진행된 곽노정 SK하이닉스 CEO는 기조연설에서 HBM3E 16단 개발 소식을 처음으로 알렸다. HBM3E 16단은 3GB(기가바이트) D램을 16층으로 쌓아 올려 최고 용량인 총 48GB를 구현한 제품이다.

곽 CEO는 "HBM3E 16단 제품은 기존 12단 구성 대비 학습 성능이 18%, 추론 성능이 32% 향상되는 것으로 확인됐다"라며 "내년 초부터 이 제품의 샘플을 고객사에 제공할 예정이며, 이를 통해 AI 시장의 급증하는 메모리 수요에 대응하겠다는 계획이다"라고 소개했다.

첫 공개 된 만큼, 전시 부스엔 HBM3E 16단 제품에 관람객들의 발길이 몰렸다. AI 모델의 방대한 데이터를 신속히 처리할 수 있는 이 제품은 AI 서버와 데이터센터의 연산 속도를 획기적으로 높일 수 있어, 복잡한 연산 작업에서도 끊김 없는 성능을 제공할 수 있다.

전시 부스에는 CPU, 엔비디아의 GPU 등이 탑재 돼 있는 패키지보드도 전시돼 있다. GB200에는 총 8개의 HBM3E가 들어간다.

현장에서 만난 SK하이닉스 관계자는 "이번에 전시된 HBM3E 16단 48GB는 기존의 메모리보다 월등한 성능을 제공, AI와 빅데이터 시대를 준비하는 데 필수적인 기술"이라며, "고객들에게 차별화된 솔루션을 제공하게 될 것이다"라고 밝혔다.

또 다른 부스에서는 SKC의 자회사인 SK앱솔릭스의 유리기판 기술이 전시됐다. 유리 기판은 AI 서버와 고성능 컴퓨팅 환경에서 필수적인 역할을 수행하는 핵심 기술로, 고성능·고밀도 통합이 필수적인 AI 반도체의 진화를 가능하게 한다.

AI 서버는 엄청난 연산을 빠르게 수행하기 위해 다수의 칩이 좁은 공간에 집적돼야 하는데, 유리 기판은 기존 PCB 기판보다 더 미세한 회로 패턴을 구현할 수 있어 데이터 처리 속도와 효율성을 극대화할 수 있다. 기존 PCB 기판이 고밀도 회로를 설계하는 데 한계가 있었다면, 유리 기판은 그 한계를 뛰어넘어 고성능 컴퓨팅에서 더욱 복잡한 회로를 안정적으로 구현할 수 있다.

또한, 유리 기판은 열팽창 계수가 실리콘과 비슷해, 칩과 기판 사이의 물리적 변형이 적어 안정적인 열 관리가 가능하다. AI 서버가 높은 온도에서 지속적으로 작동할 때 발생하는 열을 효과적으로 방출, 시스템의 장기적 안정성을 보장한다. 더불어, 유리 기판은 표면이 매끄럽고 열전도성이 우수해, 전기 신호가 빠르게 이동하고 신호 손실을 줄여 AI 시스템의 처리 효율을 극대화할 수 있다.

현장 관계자는 "유리 기판은 기존 기판의 한계를 극복하고, 고성능 AI 시스템의 요구를 만족하는 데 필수적인 기술"이라며, "SK앱솔릭스의 유리 기판은 고밀도 회로 연결과 열 관리의 효율성을 통해 차세대 AI 서버의 핵심 부품으로 자리 잡을 것”이라고 설명했다.

또 다른 부스에선 AI 서버에 구현된 액침 냉각 시스템도 전시 돼 있다. 이 시스템은 AI 서버의 과열 문제를 해결하기 위해 설계된 기술로, 서버의 핵심 부품들이 특수한 액체에 완전히 잠겨 있는 형태다.

SK 계열사 SK앤무브가 만드는 이 액체는 전기적으로 절연돼 있어 전자제품을 직접 담겨 있어도 전류가 흐르지 않아 안전하게 사용할 수 있다. 기존의 공기 냉각이나 수랭 방식보다 훨씬 발열을 잘 잡을 수 있다.

현장 관계자는 "액침 냉각은 고성능 AI 서버가 안정적으로 구동되기 위해 필수적인 기술"이라며, "AI 서버는 초당 수백만 건의 연산을 처리하면서 막대한 열이 발생하는데, 이 열을 효과적으로 식히지 않으면 성능 저하나 장비 손상이 생길 위험이 크다"고 설명했다.

이어 "서버 부품을 액체 속에 담가 열을 신속히 방출하는 방식으로, 기존 공랭 방식보다 열효율이 뛰어나 AI 서버의 최대 성능을 지속해서 유지할 수 있게 한다"고 강조했다.