하드웨어

[2023 IT혁신상품] 온프레미스 생성형 AI를 위한 고성능 서버 '델 파워엣지 XE9680'

이상일 기자
델 파워엣지 XE9680 (Dell PowerEdge XE9680) [ⓒ델테크놀로지스]
델 파워엣지 XE9680 (Dell PowerEdge XE9680) [ⓒ델테크놀로지스]

[디지털데일리 이상일기자] 인공지능(AI)가 전체 IT 시장을 견인하고 있는 가운데 비즈니스 혁신 도구로서 생성형 AI에 대한 관심이 높아지고 있다.

기술이 등장한 초기에는 퍼블릭 클라우드를 중심으로 시장이 형성되었으나, 많은 기업들이 보안에 대한 우려를 극복하고 자체 역량을 강화하기 위해 온프레미스 생성형AI로 옮겨가며이를 뒷받침할 수 있는 고성능 서버를 빠르게 도입하고 있다.

전세계 서버 점유율 1위의 델 테크놀로지스는 올 상반기 AI 관련 서버 판매가 전체 서버 매출의 20%를 차지할 정도로 증가했고, 3분기에는 그 비중이 33%까지 늘어나며, 미화 5억달러 가량의 분기 매출을 기록했다고 발표했다.특히 파워엣지(PowerEdge) XE9680 서버는 델 역사상 가장 빠르게 매출이 증가 중인 솔루션으로 시장에서 독보적인 입지를 구축하고 있다.

델 파워엣지 XE 시리즈는고성능을 요구하는 AI 및 HPC 워크로드를 위해 특별히 설계된 서버 제품군으로, AI 모델 학습, HPC 모델링 및 시뮬레이션, 코어-투-엣지 추론 및 데이터 시각화 등을 지원한다. XE 시리즈 중 가장 고성능을 자랑하는 ‘파워엣지 XE9680’은 고성능 GPU를 8개 탑재한 모델로 NVIDIA H100또는 A100 텐서 코어가 탑재되며,프로세서당 최대 56개 코어를 지원하는4세대 인텔 제온 스케일러블 프로세서를 2개 장착했다.

또한 엔비디아의 NV링크(NVlink) 기술로 GPU 간의 연결을 지원하며, 델 고유의 ‘스마트 쿨링 테크놀로지’로 발열량을 억제해 에너지 소비량과 전력 부담을 획기적으로 개선했다.더불어 GPU-GPU 통신을 위한 최대 900GB/s 대역폭으로 이전 세대 보다 1.5배 향상된 훈련 성능을 제공한다.또한 DDR5, NVLink, PCIe Gen 5.0 및 NVMe SSD 등의 최신 기술로 입출력 처리량을 높여 원활한 데이터 흐름이 가능하다.

델 오픈 매니지 엔터프라이즈(Dell Open Manage Enterprise) 소프트웨어는 생성형 AI 인프라 구축을 단순화하고 가속화하며, 클라우드IQ(CloudIQ) AI옵스 소프트웨어는 지능적인 자동화를 제공한다. 또한 시스템 잠금, 드리프트(drift: 보안이 덜 안전한 상태로 바뀌는 것) 감지 및 멀티팩터 인증과 같은 통합형 보안 기능과 더불어 사이버 복원 아키텍처를 기반으로 광범위한 제로 트러스트 구현을 돕는다. 이와 함께 델의 공급망 보증 프로그램인 ‘시큐어드 컴포넌트 인증(Secure Component Verification)’을 통해 주문한 내역과 동일하게 공장에서부터 제조하여 배송되었는지 확인할 수 있다.

한편,델이 지난해 프로젝트 헬릭스(Project Helix)라는 이름으로 선공개했던 ‘델 생성형AI 솔루션(Dell Generative AI Solutions)’은 서버나 스토리지 등 IT 인프라 솔루션 뿐 아니라,델의 워크스테이션과 컨설팅 서비스,그리고 엔비디아 AI 엔터프라이즈 소프트웨어 스위트를 아우르며,생성형AI 도입을 간소화할 수 있는 풀-스택 오퍼링이다.특히 델과 엔비디아의 공동 엔지니어링으로 탄생한 ‘생성형 AI를 위한 델과 엔비디아의 검증 설계’오퍼링은 AI 추론을 위한 블루프린트로서데이터사이언스, AI 훈련 및 추론 등을 위한 프레임워크와 툴을 포함한다.

파워엣지 XE9680은 NHN클라우드가 구축한 광주 AI 데이터센터에도 사용되고 있다.기업, 연구기관, 대학 등의 AI 개발을 위한 초고사양 컴퓨팅 자원 수요에 대응하기 위해 설립된 이 데이터센터는 데이터를 원활하게 공유할 수 있도록 개방형 아키텍처로 구성됐다.

델은 내년 상반기에 파워엣지 XE9680 서버에 8개의 AMD 인스팅트 MI300X 가속기를 탑재한 옵션을 추가로 출시해,고객들에게 AI 성능에 대한 더욱 폭넓은 선택지를 제공할 계획이다.

이상일 기자
2401@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널