[디지털데일리 이종현기자] 오픈AI가 ‘챗GPT’를 선보인 이후 생성형 인공지능(AI)은 정보기술(IT) 업계의 메가 트렌드로 급부상했다. 하지만 엔터프라이즈 영역 깊숙한 곳에는 아직 그 존재감을 드러내지 못하고 있다. 보안과 개인정보보호 규제 등이 발목을 잡은 탓인데, 엔터프라이즈 소프트웨어(SW) 기업인 VM웨어가 ‘프라이빗 AI’로 문제 해결에 나선다.

22일(현지시각) VM웨어는 미국 라스베이거스 베네시안 컨벤션 및 엑스포 센터에서 연례 콘퍼런스 VM웨어 익스플로어 2023을 개최했다. 최신 정보기술(IT) 트렌드 및 자사의 신제품을 소개하는 가운데 올해의 핵심 키워드로는 생성형 AI를 제시했다.

라구 라구람(Raghu Raghuram) VM웨어 최고경영자(CEO)는 키노트 발표에서 자사가 개발한 생성형 AI 신제품 ‘프라이빗 AI’에 대한 비전을 선보였다. 개인정보보호 및 규정 준수 요구사항을 충족시켜 기업의 생성형 AI 채택을 촉진할 것이라는 포부다.

그는 과거 비즈니스에 큰 영향력을 미친 애플리케이션(앱) 혁신이 3번 있었다고 전했다. 각각 PC와 웹, 모바일의 등장이다. 그리고 최근 AI의 등장이 4번째 혁신의 물결이 될 것이라고 전망했다.

라구람 CEO는 “기업이 AI 모델을 훈련, 사용자 지정, 서비스하는 동안 데이터의 프라이버시를 유지하고 IP 위험을 최소화하지 못한다면 생성형 AI의 잠재력은 실현될 수 없을 것”이라며 “VM웨어 프라이빗 AI는 고객이 신뢰할 수 있는 데이터를 활용해 멀티 클라우드 환경에서 AI 모델을 빠르고 안전하게 구축하고 실행할 수 있다”고 말했다.

실제 생성형 AI를 둘러싼 핵심 화두는 보안 및 개인정보보호 규정 준수다. 챗GPT가 질문을 위해 입력된 명령어(프롬프트)를 학습하는 과정에서 정보 유출이 발생한 사례가 발단이 됐다. 삼성전자의 경우 유출 사례를 발견해 내부적으로 챗GPT 사용을 금지한 바 있다. 오픈AI를 비롯해 구글, 메타 등 거의 모든 생성형 AI 기업들이 ‘책임 있는 AI’를 강조하는 배경이다.

VM웨어가 제시하는 프라이빗 AI는 이와 같은 문제에서 자유롭다는 것이 가장 큰 특장점이다. 구축형으로 제공되는 AI이기에 외부로 데이터가 빠져나갈 일이 없다. 퍼블릭 클라우드를 이용하지 못하는 기업들이 프라이빗 클라우드를 도입하는 것과 같은 맥락이다.

생성형 AI가 핵심 화두이긴 하지만 VM웨어 스스로가 대규모언어모델(LLM)을 개발하는 데 집중하는 것은 아니다. VM웨어의 소프트웨어 정의 데이터센터(SDDC)인 ‘클라우드 파운데이션’을 기반으로 그래픽처리장치(GPU)나 서버, LLM 등 생성형 AI를 위해 필요한 각각의 요소를 하나의 하나의 플랫폼 형태로 묶어 제공하는 프라이빗 AI를 무기로 내세웠다.

해당 플랫폼은 엔비디아의 GPU와 오픈소스 분산 컴퓨팅 프레임워크 ‘레이(Ray)’, 그리고 엔비디아의 ‘니모(NeMo)’나 메타(구 페이스북)의 ‘라마2(LLaMA2)’와 같은 생성형 AI 모델이 어우러진 것이 특징이다. 생성형 AI를 위해서는 막대한 비용을 들여 퍼블릭 클라우드를 이용하거나, 고가의 GPU를 구매하지 않고도 기업이 자신을 위한 생성형 AI를 개발하고 서비스할 수 있도록 지원한다.

가령 데이터센터를 운용 중인 기업이라면 VM웨어의 프라이빗 AI를 통해 자사가 보유한 컴퓨팅 자원으로 생성형 AI를 개발할 수 있도록 돕는다. 하나의 GPU를 복수의 자원으로 쪼개 활용할 수 있도록 하는 분산 컴퓨팅 프레임워크 레이를 통해 적은 비용으로도 생성형 AI에 접근할 수 있도록 한다는 방침이다.

이를 위해 VM웨어는 GPU 설계 기업 엔비디아와의 파트너십도 강화한다. 델, 휴렛팩커드엔터프라이즈(HPE), 레노버 등 서버 기업이나 넷앱, 퓨어스토리지와 같은 스토리지 기업도 함께한다.

‘AI 모델을 위한 깃허브’라고 불리고 있는 서비스 허깅 페이스(Hugging Face)와 협력해 출시한 ‘세이프코더(SafeCoder)’는 VM웨어의 프라이빗 AI 아키텍처의 일환인 제품으로 처음 공개됐다. 세이프코더는 개발자의 생산성 향상을 돕기 위한 상용 코드 보조 솔루션으로, VM웨어는 허깅 페이스를 통해 큰 비용 없이 필요로 하는 생성형 AI를 개발할 수 있었다고 전했다. 향후 마케팅, 공급망, 인적자원(HR), 법률, 금융 등 다방면의 생성형 AI를 선보일 수 있을 것이라고 밝혔다..

이와 함께 엔비디아와의 협력을 통해 오는 2024년 상반기 중 ‘VM웨어 프라이빗 AI 파운데이션 위드 엔비디아’를 출시한다는 계획이다. 해당 플랫폼에는 엔비디아의 에이다 러브레이스(Ada Lovelace) 아키텍처 GPU ‘L40’이 우선 적용된다. 향후 H100, A100 등 다른 GPU도 탑재돼 제공될 예정이다.

젠슨 황(Jensen Huang) 엔비디아 설립자 겸 CEO는 VM웨어 익스플로어 2023의 키노트 발표에 등장해 “모든 기업이 자사의 비즈니스에 생성형 AI를 통합하기 위해 경쟁하고 있다. VM웨어와의 확장된 협업은 금융 서비스, 의료, 제조 등에 걸쳐 수십만 명의 고객에게 자체 데이터로 구축된 맞춤형 애플리케이션(앱)을 활용해 생성형 AI의 잠재력을 실현하는 데 필요한 풀스택 SW와 컴퓨팅을 제공할 것”이라고 말했다.