[디지털데일리 이건한 기자] 삼정KPMG가 온디바이스AI의 특징 및 활용 전략에 관한 심층 보고서 '생성형 AI에게 펼쳐진 새로운 무대, 온디바이스 AI'를 25일 발간했다.

최근 글로벌 빅테크 기업들이 생성형 AI에 갖는 관심의 중심엔 온디바이스 AI가 있다. ▲삼성전자 갤럭시 S24 ▲애플 인텔리전스 ▲마이크로소프트 코파일럿+PC 등 그들의 전략 기기와 서비스만 봐도 대부분 온디바이스 AI 중심이다. 온디바이스 AI는 기존 클라우드 기반 AI와 달리 외부 네트워크 연결 없이 기기의 내부 연산만으로 구동되는 AI를 말한다.

온디바이스 AI가 주목받는 이유는 크게 에너지 절감과 개인정보 보호 측면에 있다. 생성형 AI가 발달함에 따라 이를 구동하는 모델 크기도 점차 대형화되는 추세다. 이때 대형 모델일수록 운영 과정에서 다량의 전력이 소모되고 방대한 컴퓨팅 자원이 요구된다. 현재 세계적으로 널리 쓰이는 오픈AI의 챗GPT, 구글의 제미나이, 마이크로소프트의 코파일럿 등 생성형 AI 서비스는 LLM(거대언어모델)을 기반으로 운영되며 클라우드 시스템을 활용해 이런 한계에서 자유롭지 못하다.

반면 온디바이스 AI 기반의 생성형 AI 서비스는 AI 모델의 분석 속도가 빠르며 시스템 운영 비용이 비교적 적다. 또한 이용자가 입력하는 정보를 디바이스 외부로 내보내지 않는다는 점에서 개인정보 등의 민감한 데이터를 처리하기에 적합도가 높다.

이번 보고서는 온디바이스 AI를 기반으로, 기업의 비즈니스 혁신과 스케일업(Scale-up)을 이끌어 낼 수 있는 스케일(SCALE) 전략을 제시했다. 각각 ▲반도체(Semiconductor) ▲클라우드(Cloud) ▲앰비언트컴퓨팅(Ambient Computing) ▲언어모델(Language Model) ▲설명 가능한 AI(Explainable AI)의 앞글자를 딴 이름이다.

먼저 온디바이스 AI는 기기의 자체 전력을 활용해 AI 모델을 운영하므로 AI 서비스 운영과정에서 소비되는 전력 소모를 적게 유지해야 한다. 이에 저전력으로 구동할 수 있는 반도체 기술인 FPGA(Field Programmable Gate Array), ASIC(Application Specific Integrated Circuit) 등이 2028년까지 연평균 40% 이상 크게 성장할 전망이다. 그 외 고성능 반도체는 클라우드와 데이터센터 등 전력 제약이 덜한 곳을 중심으로 시장이 확대될 것으로 예상된다.

앰비언트 컴퓨팅은 이용자 주변의 IT 디바이스가 사용 패턴을 자체적으로 학습해 알아서 필요한 서비스를 제공하는 형태다. 온디바이스 AI의 우수한 보안은 개인별 데이터를 확보하고 분석하는 앰비언트 컴퓨팅 환경 구축에 높을 활용 가치를 지닐 것으로 여겨지고 있다.

또한 온디바이스 AI는 소형 AI 모델 기반이란 점에서 소형 AI 모델 시장도 본격 확대될 전망이다. 주로 스마트폰, 가전 등 AI 모델이 탑재되는 개별 온디바이스 AI용 디바이스에서 요구되는 결과값의 품질을 향상하는 방향으로 개발이 진행될 전망이다.

더불어 온디바이스 AI는 이용자의 생활과 밀착된 분야에서 활용되는 경우가 많다. 그만큼 온디바이스 AI를 기반으로 운영되는 서비스가 분석 및 도출하는 결과물은 이용자의 일상생활에 많은 영향을 줄 수 있다. 이는 곧 AI에게 주어진 임무가 적절하게 정의되었는지, AI 모델이 적정하게 구축되었는지 검증하는 과정에서 타당성 검증이 가능하도록 하는 '설명 가능한 AI'의 충족도 중요해진다.

이준기 삼정KPMG AI센터 상무는 "생성형 AI 활용의 새로운 트렌드로 부상하는 온디바이스 AI를 중심으로 AI 생태계의 확장 및 사례 발굴에 주력해야 한다"며 "온디바이스 AI의 장점을 효과적으로 활용하는 전략을 바탕으로 사용자 경험을 강화한다면 보다 차별화된 고객 가치를 제고하면서 새로운 비즈니스 잠재력을 확보하는 계기가 될 것"이라고 강조했다.