반도체

메모리에 AI 담는다…삼성전자, HBM-PIM 상용화 박차

김도현
- 올해 2월 세계 최초 개발…내년 플랫폼 표준화 및 생태계 구축

[디지털데일리 김도현 기자] 메모리 시장에 변화의 바람이 불고 있다. 데이터센터에서 처리하는 정보량이 급증하면서 병목현상이 발생한 영향이다. 삼성전자는 메모리에 인공지능(AI) 프로세서를 결합한 반도체로 대응할 방침이다.

26일 삼성전자 메모리사업부 황상준 전무는 서울 서초구 엘타워에서 열린 ‘2021 인공지능반도체 미래기술 컨퍼런스’에서 “2015~2017년 정도만 해도 중앙처리장치(CPU) 코어 수를 늘려 성능을 향상하고 D램 용량을 늘리는 식으로 서버 수준을 높여왔지만 한계에 도달했다. CPU가 데이터 연산보다는 처리에 집중할 수 있도록 해야 했다”고 말했다.

그동안 반도체 업계는 ‘폰 노이만’ 구조에 맞춰져 왔다. CPU가 메모리에서 명령어를 불러와 실행한 후 결과를 메모리에 저장하는 방식이다. 빅데이터 시대에 접어들면서 CPU 과부하로 이어진 셈이다.

대안으로 메모리에서 기본 연산을 진행하는 방식이 꼽혔다. 삼성전자는 지난 2월 세계 최초로 고대역폭메모리(HBM)와 지능형 반도체(PIM)를 합친 제품을 개발했다. PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 신기술이다.

AI 시스템에 HBM-PIM을 탑재하면 기존 HBM2 기반 시스템 대비 성능은 2배 이상 높아지고 사용 에너지는 70% 이상 감소한다.
황 전무는 “HBM 기반 PIM은 굉장히 복잡할 거 같지만 그렇지 않다. 곱셈기, 덧셈기 등을 투입한 것으로 보면 된다. 성능 측면에서 이점이 크다”고 설명했다.

지난 8월 삼성전자는 HBM-PIM 테스트 검증 결과를 공개했다. 자일링스 AI 가속기에 적용하자 성능 2.5배 향상 및 에너지 사용량 60% 이상 감소가 이뤄졌다. 현재 복수 고객사 제품에도 탑재돼 평가가 진행되고 있다.

다만 가격이 문제다. 황 전무는 “HBM도 기존 메모리보다 5배 이상 비싼데 PIM까지 들어가면 2배 더 늘어난다. 구매할 수 있는 사용자가 제한적”이라고 언급했다. 향후 양산에 돌입하면 가격을 낮출 수 있을 것으로 기대된다.

삼성전자는 내년 상반기까지 AI 가속기용 PIM 플랫폼 표준화와 생태계 구축을 완료할 계획이다. 황 전무는 “HBM-PIM은 언제든지 상용화 가능하다. 오랜 기간 개발한 성과가 나타나는 단계다. 메모리 고객사에 이점을 줄 수 있다고 생각한다”고 이야기했다.
김도현
dobest@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널