정보기술(IT) 영역에 관한 모든 지식을 압축해 풀이합니다. IT산업에 꼭 필요한 용어들을 소개하고, 살펴보면 좋을 쟁점들도 정리합니다. IT가 처음인 입문자라면 혹은 동향을 알고 싶은 전문가라면, 디지털데일리의 ‘IT백과’를 참고하세요. <편집자주>

[디지털데일리 강소현기자] 최근 디바이스에서 인터넷 연결 없이 독립적으로 실행 가능한 ‘엣지 AI’(Edge AI)가 이동통신사의 새로운 수익모델로 주목받고 있다.

우리에게 익숙한 ‘클라우드 기반 AI’는 방대한 양의 데이터를 학습해 정교한 알고리즘을 갖춘 것이 특징이다. 이에 챗GPT 등 고성능 대화형 AI 서비스에 특화됐지만, 다량의 데이터를 처리하다보니 서비스 속도 지연 등 효율성은 떨어진다는 한계가 있었다.

유지비용도 적지 않았다. 데이터센터가 대용량 데이터를 동시 처리하려면 높은 전력이 필요하고, 과열을 방지하기 위한 냉각시스템도 필요했기 때문이다. 챗GPT 운용을 위해선 하루 약 70만달러(한화로 약 9억원) 이상의 비용이 발생하는 것으로 알려졌다.

이 과정에서 제안된 것이 ‘엣지’(네트워크종단)에서의 AI 운영이었다. 온디바이스AI의 하나인 엣지AI는 중앙서버를 거치지 않고 디바이스 자체에서 데이터를 처리하고 독립적으로 결정을 내리는 AI로, 기존 클라우드 기반 AI가 효율적으로 작동하지 못했던 영역에서 빠르게 확산되고 있다.

특히 엣지 AI는 자율주행·스마트팩토리 등의 영역에서 각광받고 있다. 짧은 시간이라도 데이터 분석에 지연이 발생하는 경우 큰 사고로 이어질 수 있는 영역들로, 엣지 AI는 중앙 서버를 거치지 않고 근거리에 위치한 엣지 서버를 매개로 데이터 처리가 이뤄져 수많은 변수들을 신속하게 감지해 대응 가능하기 때문이다.

더욱이 클라우드 기반 AI의 경우 AI 서비스 사용에서 개인 정보 유출 및 보안 위협이 있었다. 데이터센터에 이용자가 입력한 데이터가 쉐도우데이터(관리되지 않는 데이터 소스에 저장된 데이터)로 남아 의도치 않게 유출되는 일이 더러 발생했기 때문이다. 보안정보가 챗GPT를 통해 유출되어 AI 학습 데이터로 활용되는 식이다.

실제 IBM이 지난달 31일 발표한 ‘2024 데이터 유출 비용 연구 보고서’(2024 Cost of a Data Breach Report)에 따르면, 침해 사고의 3분의1 이상은 쉐도우 데이터와 관련된 것이었다.

엣지AI는 이러한 클라우드 기반 AI의 단점을 보완해 빠르게 성장할 것으로 전망됐다. 시장조사업체 스카이퀘스트에 따르면, 글로벌 엣지 AI 시장 규모는 2022년에 156억달러로 평가됐다.

이후 2023년 205억5000만 달러(약 28조302억원)에서 2031년 1859억5000만달러(약 253조6358억원)로 매해 31.7%씩 성장할 것으로 전망했다.

업계에선 엣지 AI의 부상으로 AI 시장의 주도권이 소프트웨어에서 하드웨어로 옮겨가고 있다는 전망도 나온다. 개별 디바이스에서 복잡한 AI 알고리즘을 작동하게 하려면 기존 반도체보다 고효율·저전력·소형화 특징을 갖춘 고성능의 반도체가 필요하기 때문이다.

AMD의 임베디드 컴퓨팅 그룹 총괄 책임자인 살릴 라제 부사장은 최근 진행된 한 행사의 기조연설에서 "우리는 엣지 AI가 세상을 근본적으로 재편할 시대의 가장자리에 서 있다"고 말하기도 했다.

이처럼 반도체 기업이 AI 시장의 새로운 리더로 부상 중인 가운데, 국내에선 이동통신3사 역시 엣지 AI를 포함한 온디바이스 AI 시장에 뛰어들었다.

앞서 SK텔레콤이 미국 AI 데이터센터 통합 솔루션 기업인 스마트글로벌홀딩스(SGH)가 보유한 산업 현장 특화 엣지 솔루션에 자사 통신 인프라를 접목한 '텔코 엣지 AI 설루션' 개발을 추진하겠다고 밝힌 바 있다.

SGH는 수 천에서 수 만개의 대규모 GPU 서버로 구성된 AI 클러스터를 설계·구축·운영하는 글로벌 AI 데이터센터 통합 솔루션 전문 기업이다.

또 KT는 올해 모바일월드콩그레스(MWC) 2024 현장에서 “2024년을 온디바이스 AIoT(AI+IoT) 사업의 원년으로 삼겠다”고 선언하는가 하면, LG유플러스는 국내 반도체 설계 회사 딥엑스와 함께 자사 고객 특화 경량화 모델(sLLM)인 ‘익시젠’을 접목한 온디바이스 AI 전용 반도체칩을 연내 선보이겠다고 밝혔다.

유회준 KAIST 전기 및 전자공학과 교수는 "5G에 이어 6G 시대 등 이동통신 세대를 거듭할수록 (트래픽을) 정확하게 예측해 (컴퓨팅) 리소스를 할당하는 것이 중요해질 것이라는 점에서 이동통신사의 역할은 중요하다"고 말했다.

일각에선 AI 시장에서 이통사의 수익화 방향이 여전히 불분명한 가운데, 기술 확보 뿐 아니라 B2C(소비자간거래) 영역에서 고객이 AI 혁신을 체감할 만한 서비스 출시 노력을 병행해 가야 한다는 지적이 나온다.

김용희 오픈루트 연구위원은 “(엣지AI를 하는 경우) 클라우드 운용 비용을 줄일 수 있다는 장점은 있다”라면서도 “엣지AI에서 핵심은 장비인데, 이통사가 스스로 장비를 만들지 못한다는 점에서 장비사와 협력할 수 밖에 없다"고 말했다. 이어 “결국에 통신사가 B2C에서 어떠한 (AI) 서비스를 선보일 것이냐에 대한 구상이 필요할 것 같다"고 덧붙였다.