[디지털데일리 김문기 기자] 엔비디아(대표 젠슨 황)는 미국 라스베이거스에서 열린 CES 2024에서 텐서 코어 GPU, LLM, RTX PC와 워크스테이션용 툴을 통해 수백만 명에 생성형 AI를 제공한다고 9일 발표했다.

초고성능 생성형 AI 성능을 위한 지포스 RTX 슈퍼 데스크톱 GPU, 주요 제조업체의 새로운 AI 노트북, 개발자와 소비자 모두를 위한 새로운 엔비디아 RTX로 가속화된 AI 소프트웨어와 툴을 발표했다.

엔비디아는 생성형 AI로 PC 경험을 향상시키는 도구를 제공한다. 여기에는 텍스트-이미지 워크플로우를 지원하는 인기 모델 ‘스테이블 디퓨전 XL’의 엔비디아 텐서 RT 가속, 생성형 AI 텍스처 툴이 포함된 엔비디아 RTX 리믹스, DLSS 3 프레임 제너레이션을 사용하는 게임과 엔비디아 ACE 마이크로서비스가 포함된다.

AI 개발자를 위한 통합 툴킷인 엔비디아 AI 워크벤치는 이달 말 베타버전으로 출시될 예정이다. 또한 최신 대규모 언어 모델(LLM)의 추론 성능을 가속화하고 최적화하는 오픈소스 라이브러리인 엔비디아 텐서RT-LLM은 이제 PC에 더 많은 사전 최적화된 모델을 지원한다. 이번 달에 출시되는 엔비디아의 기술 데모 챗 위드 RTX는 텐서RT-LLM의 가속화를 통해 AI 애호가들이 자신의 메모, 문서, 기타 콘텐츠와 상호 작용할 수 있도록 지원한다.

젠슨 황 엔비디아 창립자 겸 CEO는 "생성형 AI는 컴퓨팅 역사상 가장 중요한 플랫폼 전환이며, 게임을 포함한 모든 산업을 변화시킬 것이다. 1억 대 이상의 RTX AI PC와 워크스테이션을 보유한 엔비디아는 개발자와 게이머가 생성형 AI의 마법을 즐길 수 있는 대규모 설치 기반을 갖추고 있다"고 말했다.

다양한 애플리케이션을 최고 성능으로 실행할 수 있는 엔비디아 RTX GPU는 PC에서 생성형 AI의 잠재력을 끌어올린다. 이 GPU의 텐서 코어는 가장 복잡한 업무용, 엔터테인먼트용 애플리케이션에서 AI 성능을 획기적으로 향상시킨다.

이번 CES에서 발표된 새로운 지포스 RTX 40 슈퍼 시리즈 그래픽 카드는 최고의 AI 성능을 위한 지포스 RTX 4080 슈퍼(SUPER), 4070 Ti 슈퍼와 4070 슈퍼를 포함한다. 지포스 RTX 4080 슈퍼는 지포스 RTX 3080 Ti GPU보다 1.5배 빠른 AI 비디오와 1.7배 빠른 이미지를 생성한다. 슈퍼 GPU의 텐서 코어는 초당 최대 836조 회의 연산을 수행한다.

에이서, 에이수스, 델 테크놀로지스, HP, 레노버, MSI, 레이저, 삼성 등 제조업체들은 새로운 RTX AI 노트북을 출시해 바로 사용할 수 있는 생성형 AI 기능 풀세트를 사용자에게 제공한다. 신경망처리장치(NPU) 사용 대비 20배에서 60배까지 성능이 향상되는 새로운 시스템은 이번 달에 출하가 시작된다.

RTX GPU가 탑재된 모바일 워크스테이션은 간소화되고 안전한 생성형 AI와 데이터 사이언스 개발을 위해 텐서RT와 엔비디아 래피즈가 포함된 엔비디아 AI 엔터프라이즈 소프트웨어를 실행할 수 있다. 모든 엔비디아 A800 40GB 액티브 GPU에는 엔비디아 AI 엔터프라이즈 3년 라이센스가 포함돼 AI와 데이터 사이언스를 위한 이상적인 워크스테이션 개발 플랫폼을 제공한다.

한편, 엔비디아는 개발자가 PC급 성능과 메모리 공간을 사용해 사전 학습된 생성형 AI 모델과 LLM을 빠르게 생성, 테스트, 사용자 맞춤화 할 수 있도록 지원하기 위해, AI 워크벤치를 발표했다.

AI 워크벤치는 이달 말 베타 버전으로 출시된다. 허깅 페이스(Hugging Face), 깃허브(GitHub), 엔비디아 NGC와 같은 인기 리포지토리에 대한 간소화된 액세스를 제공할 계획이다. 또한, 개발자가 프로젝트를 쉽게 재현, 협업, 마이그레이션할 수 있는 간소화된 사용자 인터페이스도 함께 제공한다.