- PIM 등 차세대 반도체 솔루션 확보

[디지털데일리 김도현 기자] #.“최근 들어 경쟁사와 메모리 기술력 차이가 줄어든 게 사실이다. 연구개발(R&D)에 자원 더 투자해서 다시 격차를 벌려가겠다.” 지난달 삼성전자 디바이스솔루션(DS)부문장 경계현 사장은 SK하이닉스, 마이크론 등과 격차가 좁혀진 것 아니냐는 질문에 이같이 답했다.

삼성전자는 1993년부터 메모리 시장 1위를 유지하고 있으나 기술 개발 속도가 더뎌지면서 경쟁업체에 추격을 허용했다. 이에 삼성전자는 차세대 제품으로 선두 유지는 물론 메모리 패러다임 변화를 주도하겠다는 의지를 드러냈다.

20일 삼성전자는 뉴스룸을 통해 고대역폭 메모리(HBM)-프로세싱 인 메모리(PIM) 솔루션을 확보했고 이를 구현하는데 필요한 소프트웨어 표준화를 완료했다고 밝혔다.

HBM은 인공지능(AI), 슈퍼컴퓨터(HPC) 등 초고속 데이터 분석에 활용되는 제품이다. PIM은 메모리 내부에 연산 작업이 가능한 프로세서 기능을 추가한 반도체다. HBM-PIM은 삼성전자가 처음으로 메모리와 AI 프로세서를 결합한 것이다.

PIM이 없는 시스템에서는 프로세서가 메모리로부터 명령어를 불러오고 실행한 뒤 그 결과를 다시 메모리에 저장한다. 이는 다량의 데이터 이동을 의미한다. PIM을 활용하면 메모리 내부에서 연산 처리가 가능해 중앙처리장치(CPU)와 메모리 간 데이터 이동이 줄어 AI 가속기 시스템 성능과 에너지 효율을 높일 수 있다.

삼성전자는 관련 분야에서 AMD와 협력 중이다. 삼성전자는 AMD의 그래픽처리장치(GPU) ‘MI-100’ 가속기 카드에 HBM-PIM을 탑재했다. 이를 바탕으로 HBM-PIM 클러스터를 구현하고 각종 대규모 AI 및 HPC 애플리케이션에 적용했다. HBM-PIM을 활용한 가속기는 기존품 대비 성능 2배 증가, 에너지 소모 50% 감소 효과를 낸 것으로 알려졌다.
삼성전자 메모리사업부 신사업기획팀장 박철민 상무는 “HBM-PIM 클러스터 기술은 거대 규모 AI 분야 맞춤형 메모리 솔루션”이라며 “통합 소프트웨어 표준화 과정을 거쳐 CXL(Compute Express Link)-프로세싱 니어 메모리(PNM) 솔루션과도 접목해 에너지 절감 및 탄소 배출 저감 효과를 극대화해 친환경 경영에 기여할 것”이라고 강조했다.

여기서 CXL은 컴퓨팅 시스템에서 사용되는 인터페이스다. 프로세서와 사용되는 가속기와 메모리를 더 효율적으로 사용하고 메모리 용량 확장을 용이하게 한다. PNM은 PIM처럼 메모리를 데이터 연산 기능에 활용해 CPU와 메모리 간 데이터 이동을 줄여주는 기술이다. 연산 기능을 메모리 옆에 위치시켜 CPU-메모리 간 발생하는 병목현상 감소 및 시스템 성능을 개선을 이뤄낸다.

CXL-PNM은 삼성전자가 이번에 개발한 것으로 고용량 AI 모델 처리에 적합하다는 평가를 받는다. 이 역시 삼성전자가 가장 먼저 성공했다. 높은 메모리 대역폭을 요구하는 추천 시스템이나 인메모리 데이터베이스 등에서 약 2배 이상 성능이 향상된 것으로 전해진다.

삼성전자는 이러한 기술들을 지원하는 소프트웨어도 준비 중이다. 개방형 소프트웨어 표준인 SYCL을 통해 관련 사양을 정의했다. 오는 11월 공개 예정이다.

한편 삼성전자는 지난 5월 글로벌 오픈소스 기업 레드햇과 차세대 메모리 솔루션 기술 관련 소프트웨어 개발 및 에코시스템 확대를 위해 협력하기로 했다. 올해 하반기에는 삼성전자 차세대 메모리를 탑재한 고객사 서버의 하드웨어 및 소프트웨어 최적 조합을 분석하고 성능 평가할 수 있는 ‘삼성 메모리 리서치 클라우드(SMRC)’를 오픈할 계획이다.