[디지털데일리 김문기 기자] 일본 소프트뱅크가 엔비디아의 차세대 아키텍처 ‘블랙웰’ 기반의 AI 가속 시스템을 세계 최초로 도입한다. 엔비디아는 블랙웰을 통해 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축하겠다는 의지를 표명했다. 뿐만 아니라 일본 선도기업들과 함께 AI 인프라 구축에 적극 나서겠다고 밝혔다.

엔비디아(대표 젠슨 황)는 엔비디아 AI 서밋 재팬에서 소프트뱅크와의 협업을 발표한데 이어, 일본의 소버린 AI 이니셔티브를 가속화하고 글로벌 기술 리더십을 강화하기 위해 지원하겠다고 발표했다.

이 자리에서 젠슨 황 엔비디아 창립자 겸 CEO는 소프트뱅크가 엔비디아 블랙웰(Blackwell) 플랫폼을 사용해 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축하고 있다고 말했다. 아울러 차기 슈퍼컴퓨터에 엔비디아 그레이스(Grace) 블랙웰 플랫폼을 사용할 계획이라고 덧붙였다.

젠슨 황 CEO는 “일본은 전 세계에 영향을 미치는 기술 혁신을 선도해온 오랜 역사를 갖고 있다. 소프트뱅크가 엔비디아의 풀스택 AI, 옴니버스(Omniverse), 5G AI-RAN 플랫폼에 대한 막대한 투자를 함으로써 일본은 AI 산업 혁명의 글로벌 리더로 도약하고 있다. 일본은 통신, 교통, 로보틱스, 의료 산업 전반에 걸쳐 새로운 성장의 시대를 주도해 AI 시대에 인류에게 큰 혜택을 제공할 것”이라고 말했다.

아울러, 엔비디아는 소프트뱅크가 엔비디아 AI 에리얼(Aerial) 가속 컴퓨팅 플랫폼을 사용해 AI와 5G 통신 네트워크를 결합한 시범 서비스에 성공했다. 또한, 엔비디아는 소프트뱅크가 엔비디아 AI 엔터프라이즈(Enterprise) 소프트웨어를 사용해 로컬 보안 AI 컴퓨팅에 대한 수요를 충족할 수 있는 AI 마켓플레이스를 구축할 계획이라고 발표했다.

미야카와 준이치(Junichi Miyakawa) 소프트뱅크 사장 겸 CEO는 “전 세계 국가와 지역이 사회와 경제 성장을 위해 AI 도입을 가속화하고 있으며, 사회는 중대한 변화를 겪고 있다. 소프트뱅크는 엔비디아와의 오랜 협력을 통해 이러한 변화를 최전선에서 주도하고 있다. 매우 강력한 AI 인프라와, AI를 위한 5G 네트워크를 재창조하는 새로운 분산형 AI-RAN 솔루션 '아이트라스(AITRAS)'를 통해 일본 전역과 전 세계에서 혁신을 가속화할 것”이라고 말했다.

이에 따라 소프트뱅크는 세계 최초로 엔비디아 DGX B200 시스템을 공급받는다. 소프트뱅크는 자체 생성형 AI 개발과 AI 관련 사업뿐만 아니라 일본 전역의 대학, 연구 기관, 기업에서 블랙웰 기반 DGX SuperPOD을 사용할 계획이다. 이 프로젝트가 완료되면 소프트뱅크의 DGX SuperPOD은 일본에서 가장 뛰어난 성능을 발휘할 것이라는게 엔비디아의 설명이다.

소프트뱅크는 DGX SuperPOD 외에도 극도로 컴퓨팅 집약적인 워크로드를 실행하기 위해 또 다른 엔비디아 가속 슈퍼컴퓨터를 구축할 계획이다. 이 슈퍼컴퓨터의 초기 계획은 엔비디아 그레이스 블랙웰 플랫폼 설계를 기반으로 하고 있다. 이 설계는 엔비디아 블랙웰 GPU와 Arm 기반 엔비디아 그레이스 CPU를 결합한 엔비디아 GB200 NVL72 멀티노드 수냉식 랙 스케일 시스템을 갖추고 있다.

소프트뱅크는 엔비디아와 긴밀히 협력해 AI와 5G 워크로드를 동시에 실행할 수 있는 새로운 종류의 통신 네트워크를 개발하는 기술 이정표를 달성했다. AI-RAN(artificial intelligence radio access network)이라 자칭한 이 솔루션은 소프트뱅크가 가나가와 현에서 실시한 실외 실험을 통해 엔비디아 가속 AI-RAN 솔루션이 캐리어급 5G 성능을 달성하면서 부상했다. 네트워크의 초과 용량을 사용해 AI 추론 워크로드를 동시에 실행할 수 있다.

기존 통신사 네트워크는 피크 부하를 처리하도록 설계돼 평균적으로 해당 용량의 3분의 1만 사용했다. 통신사는 AI-RAN이 제공하는 공통 컴퓨팅 기능을 통해 나머지 3분의 2 용량을 AI 추론 서비스를 위해 수익화할 수 있을 것으로 예상하고 있다.

엔비디아와 소프트뱅크는 통신 사업자가 새로운 AI-RAN 인프라에 1달러의 자본을 투자할 때마다 약 5달러의 AI 추론 수익을 얻을 수 있을 것으로 예상하고 있다. 운영 비용과 자본 비용을 고려할 때, 소프트뱅크는 인프라에 추가하는 모든 AI-RAN 서버에 대해 최대 219%의 수익을 달성할 수 있을 것이라 자신했다.

한편, 엔비디아는 일본 내 클라우드 선도 기업들이 산업 전반의 혁신을 가속화할 수 있도록 AI 인프라 구축을 지원하고 있다고 발표했다.

일본의 클라우드 선도 기업인 소프트뱅크, GMO 인터넷 그룹, 하이레소, KDDI, 루틸레아, 사쿠라 인터넷은 로봇, 자동차, 의료, 통신 등 산업 전반의 혁신을 가속화하기 위해 엔비디아 가속 컴퓨팅, 네트워킹, 소프트웨어를 활용한 AI 인프라를 구축하고 있다.

젠슨 황 CEO는 “일본 기업들은 AI 기반의 새로운 산업 혁명으로부터 엄청난 혜택을 받게 될 것이다. 기업 직원들은 AI 에이전트를 통해 업무를 자동화함으로써 속도와 생산성을 극대화할 것이다. 미래의 산업 기업들은 현재 공장에서 생산하는 제품과 기계를 위한 소프트웨어 인텔리전스를 생산하는 새로운 AI 팩토리인 듀얼 팩토리를 운영할 것이다. 일본의 클라우드 제공업체들은 엔비디아와 협력해 일본의 자동차, 로보틱스, 통신, 의료 산업을 AI 시대에 맞게 재편하는 데 필수적인 AI 팩토리를 구축하고 있다”고 말했다.