[디지털데일리 김보민 기자] 지난해 챗GPT가 등장한 이후 생성형 인공지능(AI)을 업무에 도입하려는 기업들이 늘고 있다.

다만 내부 기밀 데이터가 외부로 유출될 가능성이 있어 도입을 주저하는 기업도 많다. 기업의 내부 데이터를 지키면서, 생성형 AI의 장점을 활용할 수 있는 '프라이빗 AI'가 뜨는 이유다.

유석근 VM웨어 코리아 전무는 14일 서울 양재동 엘타워에서 열린 '오픈 테크넷 서밋 2023'에서 "기업이 생성형 AI를 활용할 때 가장 중요한 것은 프라이버시"라며 "특히 기업 내부에 특화된 서비스를 만들려면 프라이빗 AI 형태의 아키텍처와 시스템 구조가 필요하다"라고 말했다.

프라이빗 AI는 한 도메인에 특화된 모델로, 소규모 거대언어모델(LLM)을 기반으로 최신 비공개 데이터를 추가로 학습해 파인튜닝할 수 있는 게 특징이다. 범용 및 개방 AI와 대비되는 개념이다.

유 전무는 "프라이빗 AI의 경우 지적재산권, 프라이빗 데이터, 프라이빗 액세스 등 세가지 요소가 중요하다"라며 "만들어 놓은 모델에 새 데이터를 추가하고, 아무나 접근해 변경할 수 없도록 막는 권한이 있어야 한다는 의미"라고 말했다.

VM웨어는 프라이빗 AI를 두 가지 아키텍처로 제공하고 있다.

첫째는 자사 클라우드 파운데이션에 그래픽처리장치(GPU) 등 엔비디아 기술을 얹는 방식이다. 유 전무는 해당 아키텍처에 최신 데이터 추가가 가능한 벡터 분석을 적용해 프라이빗 AI 운영 비용을 줄였다고 설명했다.

엔비디아가 아닌 기술 선택지를 넓히고 싶은 기업 고객을 대상으로는 오픈소스 기반의 아키텍처를 제공한다.

VM웨어 클라우드 파운데이션에 벡터 분석 등 자사 기술을 얹되, 이를 가동하기 위한 주요 동력으로 레이(RAY), 쿠버플로우(Kuberflow), 파이토치(Pytorch) 등의 오픈소스를 적용하는 방식이다.

유 전무는 "특히 레이는 GPU와 중앙처리장치(CPU) 서버를 여러 개 두고 레이에게 AI 워크로드를 주면 병렬처리할 수 있는 체계를 만든다"라며 "비용을 감축하고 동시에 AI 성능을 높일 수 있을 것"이라고 말했다.

한편 유 전무는 프라이빗 AI에 대한 관심이 커질 것으로 내다봤다.

그는 "유럽연합(EU)의 경우 'AI 액트'를 세워 관련 기술을 적절히 활용할 방법을 모색하고 있다"라며 "한국에서도 AI 활성화를 위한 법이 나올 텐데, 프라이버시 이슈는 이어질 전망"이라고 말했다.