델의 XE9680이 100여대 이상 공급된 광주 국가 AI 데이터센터 조감도 ⓒ델

[디지털데일리 이종현기자] 작년 말 ‘챗GPT’가 정보기술(IT) 업계에 가져 온 충격은 현재진행형이다. 머신러닝(ML) 등으로 널리 활용되던 인공지능(AI)에서 한발 나아간 생성형 AI의 등장 때문이다. 활용하기에 따라 무궁무진한 가능성을 내포하고 있는 생성형 AI에 많은 기업이 투자를 지속하고 있다. 바야흐로 ‘AI 시대’다.

높아지는 AI에 대한 관심은 관련 기업들에게 큰 호재로 작용한다. 대규모언어모델(LLM)을 개발하는 오픈AI는 업계 최고 스타로 떠올랐다. 공급보다도 수요가 많은 진풍경이 벌어지고 있다. 업계에서는 “고민할 시간에 일단 주문하라”는 말도 나온다.

김성준 델 테크놀로지스 코리아 부사장은 <디지털데일리>와의 인터뷰에서 “AI는 IT의 시장 규모를 확장시키고 있다. 향후 몇 년간 하드웨어와 서비스를 포함해 연평균 19%가량의 성장을 보일 것으로 예상된다. AI에 최적화된 서버에 대한 수요는 지속해서 증가하는 중”이라고 말했다.

◆모두가 누리는 AI… 클라우드로 확장 중

AI는 클라우드 업계의 지각 변동을 일으키는 중이다. 오픈AI와 협력하는 마이크로소프트(MS)는 클라우드 업계 1위 자리를 공고히 지키던 아마존웹서비스(AWS)를 위협하고 있다. AWS, 구글클라우드플랫폼(GCP)을 비롯해 중국의 알리바바클라우드도 AI에 집중하고 있다. 네이버클라우드도 ‘하이퍼클로바X’를 출시하며 존재감을 드러내는 중이다.

이와 같은 AI를 위해서는 양질의 데이터와 이를 잘 분석하기 위한 알고리즘, 이들을 이용해 연산을 할 컴퓨팅이 필요하다. 좋은 데이터와 알고리즘이 있더라도 연산할 수 없다면 무용지물인데, 그래픽처리장치(GPU)를 제공하는 엔비디아, 그리고 엔비디아의 GPU를 탑재한 서버를 제공하는 델과 같은 기업들이 주목받는 이유다.

컴퓨팅 인프라는 엔비디아에서 서버 기업으로, 서버 기업에서 클라우드 기업으로, 클라우드 기업이 서비스 기업들에게, 최종적으로 서비스 기업에서 고객에게로 제공된다. 클라우드 기업들이 생성형 AI를 앞세울수록 델 역시 수혜를 누리는 구조다.

지난 10월부터 운영을 가동한 광주광역시 국가 AI 데이터센터가 대표적인 예다. NHN클라우드가 운영하는 해당 데이터센터에는 엔비디아의 최고사양 GPU ‘H100’이 탑재된 ‘델 파워엣지 XE9680’이 100여대 이상 공급됐다.

김 부사장은 AI에 대한 수요 증가는 세계적인 추세라고 강조했다, 그는 “최근 AI를 위한 서버에 대한 수요는 델 전체 서버 주문 매출의 20%에 달할 정도로 비중이 커졌다”며 “한국에서는 향후 2년 동안 서버 5만대 이상의 데이터센터가 20개 이상 건설될 것이라고 한다. 엄청난 기회가 될 것”이라고 전망했다.

올해 상반기 출시한 '델 파워엣지 9680' 서버 ⓒ델

◆생태계와 협력 강화 중인 델… “어려운 AI를 쉽게”

김 부사장은 “AI가 전체 IT 시장을 견인하고 있다. 그 어떤 것보다 AI에 대한 투자를 우선순위에 두고 있는데, 기업 최고경영자(CEO)들도 AI가 기업의 비즈니스를 좌지우지할 만한 이슈라고 판단하고 있다. 한국은 글로벌 성장치인 19%를 웃돌 것으로 보인다”고 시장 예상치를 전달했다.

AI를 위한 고성능컴퓨팅(HPC)을 제공하는 기업은 델뿐만이 아니다. 그중에서도 델이 주목받는 것은 컴퓨팅 인프라 1위 기업이라는 입지 덕분이다. 클라우드에서 클라이언트를 아우르는, 서버와 스토리지, 보안 등 광범위한 생성형 AI 인프라 포트폴리오를 보유하고 있다. ‘프로젝트 헬릭스(Project Helix)’라는 이름으로 생성형 AI를 위한 풀스택 오퍼링도 제공 중이다.

올해 상반기 출시된 파워엣지 XE9680에 대한 인기는 현재 시장에서 델이 지니는 입지를 잘 보여준다. XE9680은 현재 델 역사상 가장 빠르게 수요가 늘고 있는 서버다. 김 부사장은 XE9680에 20억달러에 달하는 수주잔고(백로그, Backlog)가 존재한다고 귀뜸했다.

델은 엔비디아와 ‘생성형 AI를 위한 델과 엔비디아의 검증설계’ 등 협력을 이어가고 있다. 협력은 하드웨어 레벨에서 그치는 것이 아니다. 델과 엔비디아는 데이터사이언스, 트레이닝 추론 등을 위한 프레임워크와 툴을 포함한 사전학습된 엔비디아 니모(NeMo) 등이 포함됐다. VM웨어, 레드햇과 같은 소프트웨어(SW) 기업들도 협력의 대상이다.

김 부사장은 “델은 글로벌 차원에서 ‘AI 인‧온‧포‧위드(In‧On‧For‧With)’라는 4대 전략을 가지고 있다. AI 기술을 델의 제품 및 솔루션에 내재(In)하고 우리의 솔루션을 이용하는 고객이 AI 워크로드를 잘 구동될 수 있도록 지원(On)하며 자체 프로세스와 의사결정에 AI를 활용(For)한다. 또 인텔, AMD, 엔비디아를 비롯해 냉각기술업체, AI‧ML옵스(AI‧MLOps) 및 관련 SW 기업 등과 협력(With)하는 중”이라고 피력했다.

이런 협력은 일반 기업들에게 생소하게 여겨질 AI에 대한 접근성을 높여주는 효과가 있다. 그는 “단순히 인프라만으로는 생성형 AI 프로젝트를 진행할 수 없다. 델이 가지고 있지 않은, 다른 기업들과도 협력함으로써 고객이 생성형 AI를 구축하기 위한 에코시스템을 조성했다”고 전했다.

델 테크놀로지스 코리아 김성준 부사장

◆변하지 않으면 살아남을 수 없다

생성형 AI의 등장 초기에는 퍼블릭 클라우드를 중심으로 시장이 형성됐다. 하지만 점차 기업들이 생성형 AI 역량을 자체적으로 내장하기 위해 움직이는 중이다. 프라이빗 AI라고 불리는 수요가 등장하고 있는데, 이는 개별 기업의 고성능 서버 수요로 확장되는 추세다.

김 부사장은 “기존에는 클라우드 기업들, 통신사, 연구소 등을 위주로 수요가 형성됐다. 생성형 AI의 1세대라고 할 수 있다. 그런데 지금은 2세대, 개별 기업이 온프레미스를 중심으로 버티컬 생성형 AI를 구축하는 중”이라고 밝혔다.

대표적인 영역이 제약이다. 타임투마켓, 개발부터 출시까지의 시간이 중요한 제약업계는 적극적으로 AI를 활용해온 분야다. 코로나19 대유행 당시 AI를 통해 빠르게 백신을 개발한 것은 유명한 사례다. 김 부사장은 “중요한 것은 고객의 워크로드가 무엇인지지, 퍼블릭 클라우드나 온프레미스와 같은 플랫폼은 중요하지 않다”고 피력했다.

또 그는 “내년까지는 클라우드 기업들과 이동통신사, 대형 연구소들이 자신만의 LLM과 생성형 AI를 개발하기 위해 투자할 것으로 보인다. 이후에는 조금 더 작은 규모의 기업들이, 이미 개발돼 있는 서비스를 애플리케이션 프로그래밍 인터페이스(API)를 이용하면서 새로운 시장이 형성될 것”이라고 전망하며 “델은 고객이 AI 여정의 어떤 위치에 있든 잘 활용할 수 있도록 설계된 최적의 솔루션을 제공할 것”이라고 말했다.