[디지털데일리 이종현기자] 미국 라스베이거스에서 진행되는 세계 최대 정보기술(IT)‧가전박람회 CES2024가 개막했다. 올해 핵심 화두는 제품 자체에 인공지능(AI)이 탑재돼 있는 ‘온디바이스 AI’다. TV가 영상에서 나오는 언어를 자동으로 번역하고, 자동차 음성 비서에 AI 챗봇이 더해진다. 그야 말로 AI 일색이다.

온디바이스(On-Device) AI는 서버와 연결 없이 디바이스(단말)에서 AI 연산을 처리하는 것이 골자다. 챗GPT와 같이 클라우드를 통해 원격지에 있는 컴퓨팅자원을 바탕으로 연산을 한 뒤 결과값을 받는 것과는 차이가 있다. 연결 없이 사용된다는 점에서 AI 최대 문제로 떠올랐던 보안 문제에서 비교적 자유롭다. 인터넷이 어려운 환경 속에서도 작동한다.

삼성전자는 CES2024에서 신경망처리장치(NPU)를 탑재한 AI TV를 선보였다. 삼성전자의 자체 운영체제(OS) ‘타이젠’을 기반으로 하는 신규 TV는 저화질 콘텐츠를 더 높은 화질로 바꿔주는 업스케일링 및 영상 속 왜곡을 줄여주는 모션 인핸서와 화면 속 음원 중 음성만 분리해 대화 내용을 전달하는 등의 기능을 갖췄다.

삼성전자는 영상 속 검은 화면이 있을 경우 해당 픽셀은 소자를 끄는 등의 방식으로 전력 소모값을 줄이는 AI에너지 모드나 영상 속 언어를 이해해 실시간으로 텍스트화 및 번역하는 텍스트 투 스피치(Text to Speech, 이하 TTS), 스피치 투 텍스트(Speech to Text) 등 기술도 선보였다. 해당 기술은 올해 출시 예정인 갤럭시S24에 탑재될 것으로 알려진 AI 실시간 통역 등과 유사해 많은 이목을 끌고 있다.

국내 AI 업계 관계자들은 이번 CES2024에서 AI가 크게 부각되는 데 대해 대체로 만족하는 모양새다. 한 업계 관계자는 “소형언어모델(sLLM)이 일상을 어떻게 바꿀 수 있는지를 보여주는 무대가 됐다”고 피력했다.

그는 “오픈AI의 GPT-4와 같은 대규모언어모델(LLM)은 한국 기업이 만들기 어렵다. 정말 많은 자본이 필요한데, 제조업에 특화돼 있는 한국 대기업들이라고 해도 쉽게 할 수 없는 영역이다. 때문에 많은 국내 기업들이 특정 버티컬 영역에 특화된 sLLM을 개발 중이다. 이번 CES2024에서 보여지는 온디바이스 AI 기술 대부분이 sLLM의 활용 사례라 봐도 무방하다”고 말했다.

또 다른 관계자는 “결국은 에지, 온디바이스로 AI가 갈 수밖에 없다고 생각한다. 큰 데이터센터가 없으면 구동할 수 없는 AI는 사용처가 한정적이다. 많은 사람들이 AI를 체감하려면 노트북에서, 휴대폰에서, TV에서 구동할 수 있도록 작아져야 한다”며 “온디바이스가 되면 사람들이 민감해 하는 개인정보 유출 등도 많이 줄어들 것”이라고 전했다.

다만, CES2024에서 선보여지는 AI 기능 대부분이 놀라운 수준이라고 보기 어렵다는 평가도 있다. 실제 업스케일링이나 STT, TTS 및 자동 번역 등은 IT 업계에서는 흔한 기술이다. 주목해야 할 것은 기술이 아니라 제품이라는 목소리도 나온다.

한 AI 기업 대표는 “그동안 ‘이런 식으로 구현할 수 있다’고 말하던 것들이 이제 현실화되고 있다. 폭스바겐이 음성비서에 챗GPT를 접목시킨다고 하는 정도인데, 이번 CES에서 선보여지는 기술은 아직 빙산의 일각일 뿐이다. 앞으로 더욱 다양한 혁신이 이뤄질 거고 그 속도는 굉장히 빠를 것”이라고 내다봤다.