[디지털데일리 권하영기자] 인공지능(AI) 기술 발전으로 대규모 데이터 연산을 위한 고성능 그래픽처리장치(GPU)의 중요성이 커지고 있다. 특히 이 분야 독보적 기술력을 자랑하는 엔비디아의 GPU 모델이자 AI 가속기라고도 불리는 ‘H100’은 고가에도 불구하고 줄을 서도 못 사는 제품으로 유명하다.

이에 클라우드 컴퓨팅 서비스를 제공하는 클라우드서비스제공사(CSP)들도 엔비디아의 고성능 GPU를 얼마나 확보했는지가 중요한 경쟁력이 됐다. 아마존웹서비스(AWS)와 마이크로소프트(MS), 구글클라우드 등 하이퍼스케일러(초대형 CSP)들은 H100 또는 그 이전 모델인 A100으로 수천~수만대 규모의 GPU 서버 팜(Farm)을 운용한다.

하지만 국내 CSP들의 경우 하이퍼스케일러들에 비해 H100을 확보하는 데 어려움이 더 클 수밖에 없다. MS가 지난해 사들인 H100이 15만대 수준인데, 그 비용만 최소 45억달러(약 5조8000억원)일 것으로 추정된다. 시장이 훨씬 작은 국내 CSP들이 감당할 수 있는 규모가 아닌 것이다.

아시아 최초로 H100을 도입했다고 알려진 NHN클라우드는 최근 기자간담회를 통해 자체 데이터센터에 H100을 1000대 이상 확보했다고 밝혔는데, 이것이 국내 CSP 중에서는 최대 규모라고 확인했다. 김동훈 NHN클라우드 대표는 “우리가 다른 벤더들보다 3배 더 갖고 있다고 알고 있다”며 “대형 통신사에서도 장비가 없어 우리한테 팔라고 연락이 올 정도”라고 말했다.

다만 기업들이 저마다 확보한 H100 물량을 다 공개하고 있지는 않기 때문에 확신할 순 없다. 업계에 따르면 삼성클라우드플랫폼(SCP)을 서비스하는 삼성SDS도 1000대 단위 H100을 확보한 것으로 알려졌다. 네이버클라우드와 KT클라우드의 경우 아직은 이전 모델인 A100을 확보한 수준이라는 전언이다.

업계 한 관계자는 “실제 실리콘밸리에선 경쟁사들이 엔비디아 칩을 얼마나 확보했는지가 최대 화두고 이런 분위기는 국내에서도 마찬가지라 물밑 경쟁이 치열하다”라며 “NHN클라우드가 자신 있게 H100 물량을 공개한 것은 그만큼 자신들의 경쟁력을 어필하기 위함이고, 경쟁사들은 말은 안해도 많이 긴장하고 있을 것”이라고 말했다.

실제 삼성SDS의 경우 확보한 H100 물량을 바탕으로 SCP에서 GPUaaS를 제공하는 국내 유일한 기업임을 강조하기도 한다. GPUaaS(GPU as a Service)는 온프레미스(설치형)가 아닌 클라우드 형태로 GPU를 제공하는 서비스로, 필요한 만큼만 GPU를 제공받아 쓸 수 있어 비용효율성과 유연한 확장성이 장점이다.

사실 최신 GPU 품귀에 대응하고 엔비디아의 독점력을 견제하기 위해서는 자체 AI 가속기를 개발하는 것이 또 다른 과제로 있다. 실제 아마존은 ‘트레이니움’, MS는 ‘마이아’, 구글은 ‘TPU’ 등 자체 AI 반도체를 만들었다. 물론 이들조차 아직은 엔비디아 칩을 대체하기는 거의 불가능에 가깝다는 게 중론이다.

그럼에도 국내 CSP들은 하이퍼스케일러들과 같은 이유로 국산 AI 반도체 개발에 힘쓰고 있다. 네이버클라우드는 삼성전자와 손을 잡고 프로그래머블반도체(FPGA) 형태의 AI 반도체를 공동 개발 중이며, KT는 AI 반도체 스타트업 리벨리온에 투자해 파트너십을 맺고 있다. NHN클라우드는 SK그룹의 AI 반도체 기업 사피온과 협력 중이다.

업계 관계자는 “엔비디아가 메인스트림인 건 확실하지만 국가경쟁력의 문제다보니 우리나라 역량도 키워야 하기 때문에, 국내 CSP들은 엔비디아 칩을 발빠르게 확보하면서 국산 AI 반도체도 키우는 투트랙 전략으로 가고 있다”며 “국내 AI 반도체 기업들 중에서도 조만간 제일 잘하는 곳 하나가 살아남는 식으로 갈 것 같다”고 말했다.