[인터뷰] 정민영 SK텔레콤 AI플랫폼 담당

[디지털데일리 강소현기자] ”모두에게 인공지능(AI) 비서가 생긴다면, 어떤 일이 벌어질까요”

과거 소수의 전유물이었던 통신이 이젠 당연한 것이 됐다. 통신속도가 곧 권력으로 작용하던 시절, 이동통신사는 이러한 통신의 장벽을 낮추며 빠르게 성장했다.

이제는 비서다. 모두가 삶 속에서 알게 모르게 느끼는 불편함을 해결해줄 AI 에이전트(이하 PAA·Personal AI Agent)를 통해 이동통신사가 제2의 전성기 도모에 나선 것이다.

그렇다면 AI 에이전트는 무엇이고, 통신사는 이 서비스에서 어떠한 차별화된 강점을 가질까. <디지털데일리>는 정민영 SK텔레콤 AI플랫폼 담당(부사장·사진)을 만나, 글로벌 통신사 AI 서비스 개발 동향 및 SK텔레콤 PAA 서비스의 미래에 대해 이야기했다.

◆ 실리콘밸리의 트렌드 ‘sLM의 부상과 멀티모델의 채택’

정 담당은 지난해 SK텔레콤이 설립한 신규 AI 테크 법인 '글로벌 AI 플랫폼 코퍼레이션 코리아'(이하 GAP Co.)의 CTO를 겸하고 있다.

GAP Co.는 SK텔레콤에서 멀티 LLM(초거대언어모델)과 최신 AI 기술을 바탕으로 한 솔루션과 관련 기술 개발에 주력하고 있다. 최신 AI 기술에 대한 빠른 접근을 위해 법인의 거점은 실리콘밸리로 낙점됐다.

정 담당은 “(거점 선정에서) 접근성을 가장 많이 고민했다”라며 “개인적으로 안타까우면서도 체감하는 AI 시장의 변화는 정보 장벽이 높아졌다는 것이다. 과거엔 시간차만 있을 뿐 정보에 대한 접근(access)가 가능했다면, 최근엔 약 10%도 공개되지 않는 것 같다”고 말했다.

정 담당이 파악한 글로벌 AI 시장의 변화 중 하나는 소규모언어모델(sLM)의 부상이다.

한동안 많은 기업들이 자체 LLM을 구축하고자 했고, AI 시장은 파라미터(Parameter·매개변수) 값의 싸움이었다. AI의 뉴런 역할을 하는 파라미터는 딥러닝을 통해 학습한 데이터가 저장되는 곳을 의미하며, 이론상 파라미터의 수가 많을수록 AI가 더 정교한 학습을 할 수 있는 것으로 알려져 있다.

예컨대 오픈AI가 선보인 GPT-3는 ‘초거대AI’의 지평을 열었다는 평가를 받은 가운데, 1750억개의 파라미터로 업계에 큰 파장을 일으켰다. 당시 경쟁사인 마이크로소프트(MS)의 인공지능 ‘튜링-NLG’(170억개)보다도 10배 많은 수치였다.

여전히 파라미터가 클수록 고도화된 모델로 인식되지만, 최근 기업들은 파라미터 만을 두고 싸우지 않게 됐다. 모두가 오픈AI 혹은 MS와 같이, 이른바 LLM을 자체적으로 구현하는 것은 결코 쉬운 일이 아니기 때문이다. 파라미터가 클수록 데이터 처리비용은 높아졌고, 데이터가 많다보니 서비스 지연이 발생했다.

이에 최근엔 시장에서 LLM을 막연하게 추종하기보다, 현실적인 방향의 고민이 공유되기 시작했다고 정 담당은 강조했다. 어떻게 하면 좀 더 비용 최적화된 서비스를 만들고, 서비스의 속도를 높일 수 있냐 등이다.

sLM도 이러한 고민 속에서 등장했다. LLM이 많은 데이터를 학습해도 결국 모든 데이터를 학습할 순 없는 가운데, 세부 분야를 특정하고 그 분야에 특화된 sLM을 개발하기 시작한 것이다.

정 담당은 “현세대 sLM이 구세대 LLM 성능을 앞지르기 시작했다”라며 “AI 모델들마다 쓰임이 다른 가운데, 쓰임이 명확하다면 가능한 작은 모델을 쓰는 것이 좋다고 생각하는 추세”라고 귀띔했다.

또 다른 AI 시장의 변화는 서비스에서 ‘멀티 AI모델의 채택’이다. 모델에 따라 답변 특성이 다른 가운데 이젠 많은 기업들이 ‘다양한’ AI모델을 ‘잘’ 활용하는 방안을 강구하고 있다는 설명이다.

이 같은 추세는 최근 국내에서도 두드러진다. SK텔레콤이 자체 LLM을 구하는 한편 잘 구축된 LLM을 가져다 제공하는 ‘멀티 옵션 전략’을 취하고 있는가하면 KT도 MS와 내년 상반기 GPT-4o 기반 한국형 AI 모델을 개발하는 동시에 기존 자체 sLM AI모델인 ‘믿음’과 투트랙 전략을 가져가겠다고 밝혔다.

◆ PAA의 가치를 만들어낼 ‘액션’

그렇다면 통신사는 어떠한 차별화된 AI 서비스를 제공할 수 있을까. 정 담당은 통신사가 제공할 수 있는 차별화된 강점으로 ‘커뮤니케이션’(Communication)을 꼽았다.

소셜네트워크서비스(SNS) 미투데이와 뮤직 애플리케이션(앱) 비트, 네이버 AI 연구 조직 ‘클로바’ 리더 등을 거쳤던 그는 “과거보다 커뮤니케이션 수단이 발달했음에도 불구, 소통에 대한 부담은 여전하고 관리가 됐으면 좋겠다는 니즈가 시장에 존재한다”고 말했다.

이 같은 강점을 살려 통신사가 공략한 시장은 AI 에이전트(PAA) 시장이다. 고위직 임원들만 옆에 둘 수 있었던 ‘비서’를 모두가 가지게 되는 것이다. 다만 나를 더 잘 아는 비서다.

예컨대 SK텔레콤의 'AI 에이전트(PAA)’ 서비스 에이닷은 통화 내용을 기반으로, 마치 비서처럼 주간 요약 리포트를 정리해 제공한다.

통화 내용을 요약해주는 것은 물론, ‘12일 오전 10시 우체국 방문’ ‘30일 월요일 마감하고 연락하기’ 등 통화 내용에서 언급된 일정들을 정리해 알려주기도 한다. 평소 통화량이 많아 일정 정리가 어려운 사람일수록 에이닷의 도움을 많이 받을 것으로 기대됐다.

이 가운데 SK텔레콤은 에이닷을 연내 ‘고객이 기꺼이 돈을 내고 쓰는 유의미한 서비스’로 만들겠다는 각오을 밝힌 바 있다.

마찬가지로, 많은 인터뷰에서 ‘서비스가 아무리 좋아도 수익성을 담보하지 못하면 지속 가능하지 않다’는 가치관을 밝혀온 정 담당은 PAA에서 확실한 교환가치를 만들 수 있을 것이라고 봤다.

이러한 교환가치는 ‘액션’에서 만들어질 것이라고 봤다. 단순히 정리·요약하는 것을 넘어, 식당 예약과 물건 구매, 일정 조율 등 PAA가 나를 대신해 업무를 수행까지 해준다면 확실한 교환가치가 만들어질 것이라는 기대다.

정 담당은 “개인 경험에 비추어 지갑을 열게 만드는 서비스의 경우, 교환가치가 상대적으로 명확하다. 저 역시 번거로움을 해소하기 위해 많은 서비스들에 기꺼이 돈을 내고 있다”라며 “ 나를 번거롭게 하는 일들을 PAA가 해결해주고, 그래서 내가 다른 일에 집중하고 생산성이 높아진다면 승부수가 있다고 본다”고 말했다.

◆ 글로벌 PAA 서비스 개발-AI 플랫폼 프로젝트 병행…"시행착오 줄일 것"

SK텔레콤은 연내 북미 시장에서도 글로벌 PAA 베타 버전을 선보이기로 했는데, ‘GAP Co.’가 핵심 역할을 맡고 있다. 글로벌 서비스를 준비하는 것은 여전히 쉽지 않지만, AI를 통해 비교적 쉬어졌다는 후문이다.

정 담당은 ‘밀프랩(meal-prep) 시나리오’를 예로 들면서 “(글로벌 PAA 서비스 출시를 위해) 유저 리서치를 하던 중 재밌었던 건 의외로 타겟 세그먼트에 밀프랩 문제가 많이 잡혔다는 것”이라며 “한국과 비교해 배달 인프라가 상대적으로 잘 구축되어 있지 않은 미국의 경우 식사 준비가 굉장히 번거로운 일이고 도와줬으면 좋겠다는 수요가 많았다”고 회상했다.

그러면서 “(식사 준비는) 어떻게 보면 AI가 가장 잘 도와줄 수 있는 영역”이라며 “내가 못 먹는 식재료나 좋아하지 않은 음식을 파악해 이를 기반으로 레시피를 추천하고, 나아가 식자재를 아마존에서 미리 주문해주는 AI 서비스를 생각해볼 수 있겠다”고 덧붙였다.

특히, GAP Co.는 글로벌 PAA 서비스 개발과 함께 AI 플랫폼 프로젝트를 병행하면서 실패 확률과 비용을 줄이고자 노력하고 있다. PAA 서비스 개발 과정에서 겪은 시행착오를 AI 플랫폼 프로젝트에 반영하는 식이다.

정 담당은 “AI 애플리게이션의 경우 A 기술을 쓰다가도, 조금만 시간이 지나면 B라는 기술이 등장하는 등 기술 변화가 굉장히 빠르다”라며 “확실한 성공사례(Best Practice)가 있다면 좋겠지만 아직까진 많은 것이 열려 있는 상황으로, PAA 프로젝트를 하면서 생기는 결과물이나 겪은 시행착오를 플랫폼에 녹여내려 하고 있다”고 말했다.

SK텔레콤은 앞서 '인텔리전스 플랫폼'을 활용할 수 있는 사내 구성원 대상 포털 'AI 원(AI One)'을 오픈했다. 본인의 담당 상품·서비스에 AI 기능을 원스톱으로 빠르게 적용할 수 있는 것이 특징인데, 최근 여기에 검색증강생성(RAG) 기술을 적용했다.

RAG 기술은 최신 정보를 실시간으로 업데이트하기 어렵다는 LLM의 한계를 극복하기 위한 자연어 처리 기술인데, 외부 데이터 소스를 참조해 정확도를 높이는 방식이다. RAG의 적용 여부 및 범위 등을 판단하는 과정에서도 PAA 프로젝트가 많은 도움을 줬다는 후문이다.

향후 SK텔레콤은 글로벌 PAA에서도 멀티AI모델을 가져갈 계획이다. SK텔레콤은 최근 에이닷 개편을 통해 챗GPT와 퍼플렉시티 등을 포함한 멀티LLM 기반 PAA 서비스 선보였는데, 기존 챗GPT, 클로드, 에이닷엑스 등 멀티 LLM과 함께 퍼플렉시티의 AI 검색엔진을 사용할 수 있는 것이 특징이다.

과제는 AI모델의 효율적 관리다. 업데이트 과정에서 답변의 특성 등 많은 것들이 달라지는데, 이러한 변화를 추적할 수 있는 플랫폼이 필요하다는 설명이다.

정 담당은 “비용적인 관점에서 보면 오히려 모델의 포트폴리오는 다각화할수록 오히려 비용이 최적화된다고 본다”라면서도 “우수한 모델을 쓰다가 어느정도 유즈케이스가 고도화되고 잘 쓰이기 시작하면 전략적으로 내재 모델로 변경하기도 하는데 변환하는 과정에서 발생하는 간접비용 등은 플랫폼으로 관리해 보려고 한다”고 밝혔다.

끝으로 그는 “통신사가 지금처럼이렇게 큰 회사들이 될 수 있었던 것은 모두가 겪던 불편함을 해결해준 덕분이라고 생각했다”라며 “많은 사람들에게 이득(Benefit)이 되는 그런 PAA 서비스를 개발하기 위해 노력하겠다”고 강조했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지