[디지털데일리 이안나 기자] 클라우드 열풍에 가려져 있던 하드웨어 업체들이 날개를 펴고 있다. 생성형 AI라는 시대의 화두를 등에 없고 새로운 도약을 꿈꾸고 있는 상황이다.

2022년 말 ‘챗GPT’ 등장 후 인공지능(AI) 시장은 또 한번 변화 국면을 맞았다. 대규모언어모델(LLM)과 접목된 생성형AI 등장 때문이다. 기업들은 양질의 데이터를 잘 분석해야 할 필요성이 높아졌고, 그간 솔루션 대비 주목 받지 못했던 서버·스토리지 역시 고성능 버전 유치 경쟁이 벌어졌다.

12일 시장조사업체 옴디아에 따르면 지난해 서버 출하량은 전년대비 최대 20% 감소한 것으로 추정된다. 엔터프라이즈 서버 수요가 줄어들자 서버시장 1,2위를 다투는 델 테크놀로지스와 휴렛패커드 엔터프라이즈(HPE)는 AI서버라는 틈새시장을 넓히고 있다.

실제 AI서버 시장만 보면 급격한 성장세를 보인다. 시장조사업체 트렌드포스에 따르면 지난해 AI 서버 출하량은 118만3000대로 전년대비 38.4% 증가한 것으로 추정된다. 올해 150만4000대, 2025년 189만대, 2026년 236만대 등 매년 20% 중후반대 증가율이 예상된다.

생성형AI가 전체 IT 시장을 견인하면서 AI서버 수요도 급격하게 높아졌다. 즉 AI 서버가 학습 중심에서 추론 영역으로 확장되면서 일반 서버 성장률(10%)을 3배 이상 상회할 것이라는 전망이다.

AI서버는 엔비디아 첨단 GPU가 대거 탑재되는 만큼 일반 데이터센터나 엔터프라이즈 워크로드를 위한 기존 서버들보다는 가격이 훨씬 비싸다. 한 대당 수억원으로도 언급돼 서버 종류 중에선 ‘하이엔드’급으로 볼 수 있다. 서버에 탑재되는 고가 칩이 많다보니 옴디아는 2027년까지 이 비용이 데이터센터 지출 30%를 차지할 것으로 예측하기도 했다.

다만 고금리 장기화로 비용 절감을 꾀하고 있는 IT기업들도 AI서버만큼은 투자를 망설이지 않는 분위기다. AI 시장에서 뒤처지지 않아야한다는 두려움이 반영된 것으로 보인다.

업계 관계자는 “기업용 IT 시장 전반이 어렵다보니 서버 출하량 자체는 좋은 편이 아니지만 AI서버로는 수요가 몰리고 있다”며 “당장 AI서버가 필요하니 일부 기업들은 웹 애플리케이션 서버 등 일반 IT 예산을 줄여서 구하기도 한다”고 말했다.

대표적인 AI 서버 공급업체는 델 테크놀로지스와 HPE, 레노버 등이다. 일부 국산 업체와 중국 및 대만 등지에서 조립을 통해 들여오는 서버도 있지만 AI 서버에 필요한 GPU가 이제는 그야말로 줄서 받아야할 만큼 품귀현상이 지속되고 있어 구매력이 높은 글로벌 기업 중심으로 사실상 시장이 재편되고 있는 상황이다.

델은 지난해 상반기 AI 관련 서버 판매가 전체 서버 매출 20%를 차지할 정도로 증가했고, 3분기엔 33%까지 늘었다. 특히 2022년 선보인 ‘파워엣지 XE9680’ 서버는 델 역사상 가장 빠르게 매출이 증가 중인 솔루션으로 꼽혔다.

국내에선 NHN클라우드가 델과 협업으로 지난해 광주광역시에 국가 AI 데이터센터를 설립했다. 여기엔 엔비디아의 최고사양 GPU ‘H100’이 탑재된 ‘델 파워엣지 XE9680’이 100여대 이상 공급됐다.

HPE는 머신러닝, 가상데스크톱환경(VDI) 등 워크로드를 지원하는 ‘프로라이언트 Gen11′ 서버 시리즈를 출시한바 있다. 여기에 최근 네트워크 장비 공급업체 주니퍼네트웍스 인수 의지를 밝히면서 AI 통합 솔루션 제공업체로서 입지를 노리고 있다.

레노버는 ‘레노버 씽크시스템 SR650 V3 서버’와 ‘레노버 씽크시스템 SR630 V3 랙 서버’를 통해 기업용 AI워크로드에 최적화된 성능 및 유연성을 제공한다는 설명이다. 또한 ‘레노버 씽크시스템 SR250 V3 랙 서버’ 및 ‘레노버 씽크시스템 ST250 V3 타워 서버’는 지사 및 분점을 두고 있는 기업들을 위해 최대 21%까지 성능이 향상된 인텔E-2400 프로세서를 활용한 유연한 엣지 컴퓨팅을 지원한다.

슈퍼마이크로컴퓨도 워크로드에 최적화된 X13 CPU 제품군에 생성형 AI용 GPU 서버, 처리량 및 지연 시간이 최적화된 E3.S 페타스케일 서버, 대규모 오브젝트 스토리지를 위한 비용 효율적, 고집적도의 엔터프라이즈 서버 및 심플리 더블 스토리지 서버, 저장 용량이 늘어난 신규 4노드 슈퍼엣지 시스템이 포함된 포트폴리오를 선보이기도 했다.