[디지털데일리 권하영기자] 클라우드 전문기업 솔트웨어가 인공지능(AI) 시장에 도전장을 냈다. 최근 거대언어모델(LLM) 기반 기업용 AI챗봇 ‘사피봇’을 자체 개발한 솔트웨어는 클라우드와 온프레미스 모두 사용할 수 있으면서 기업 니즈에 최적화된 맞춤 AI 서비스로 국내는 물론 글로벌 시장까지 공략하겠다는 방침이다.

솔트웨어 박창우 AI서비스본부장은 최근 경기 과천시 본사에서 <디지털데일리>와 만나 이같은 계획을 밝혔다. 솔트웨어는 아마존웹서비스(AWS) 데브옵스 컴피턴시 파트너로서 클라우드 기술 역량을 인증받은 관리서비스(MSP) 기업으로, 올해 1월 ‘AI서비스본부’ 신설을 기점으로 AI 사업에까지 기술력을 확대하고 있다.

솔트웨어는 AI 기술 발전에 따라 앞으로 모든 클라우드 영역에 AI가 내재화될 것으로 판단, 올해 사업 슬로건을 ‘AI 퍼스트(First)’로 정하고 클라우드 기술에 AI를 접목하는 시도를 본격화하고 있다. 이에 LG CNS 출신 AI 전문가인 박 본부장도 AI서비스본부를 이끌기 위해 본부 신설과 함께 솔트웨어에 합류했다.

그 결과로 탄생한 솔트웨어의 LLM 기반 기업용 AI챗봇 ‘사피봇’은 클라우드와 온프레미스에서 모두 쓸 수 있는 사용성과 타 AI 챗봇 대비 저렴한 비용효율성을 내세워 주목받고 있다. 최근 1호 고객사로 연성대학교가 입시전형 행정서비스 강화를 위해 사피봇을 도입키로 결정하면서, 레퍼런스 확보에도 청신호가 켜졌다.

박창우 본부장은 “사피봇은 크게 클라우드용과 온프레미스용으로 구분돼 클라우드용의 경우 앤스로픽 LLM ‘클로드 3.5 소네트’ 기반으로 개발했고, 온프레미스용은 솔트웨어가 자체 구축한 sLLM(경량화LLM)을 기반으로 고객사에 맞춤형으로 제공한다”며 “클라우드든 온프레미스든 어떤 모델을 쓸지는 고객이 선택할 수 있다”고 설명했다.

사피봇은 이처럼 고객이 원하는 LLM을 기반으로 문서요약과 데이터분석은 물론 내부지식 기반 질의응답 등 각 고객 도메인에 맞춰 최적화된 챗봇 서비스를 제공한다.

기업 내부 데이터를 활용하기 때문에 별도 모델 학습 없이도 정확한 정보를 제공하는 동시에, 데이터 유출 위험 및 거짓정보생성(할루시네이션)을 최소화하는 검색증강생성(RAG) 기술이 적용됐다. 다양한 포맷의 데이터를 처리하는 멀티모달 기능을 지원할뿐 아니라, 이러한 문서들을 벡터 데이터베이스(DB)에 저장해 검색 및 분석이 가능하다.

코드 없이(No-Code) 쉽게 관리 가능한 사용자친화 인터페이스를 제공하기 때문에 AI 전문 지식 없이도 사용할 수 있으며, 애플리케이션프로그램인터페이스(API)를 통해 IT 인프라와 쉽게 통합 가능한 점도 장점이다.

박 본부장은 “기업이나 기관의 담당자가 사용자들로부터 업무 질의를 받을 때 사실 본인이 답을 해주기보다 대신 담당해줄 상담자가 필요한데 사피봇이 이를 대신해줄 수 있다”며 “담당자가 해야 할 일은 본인들의 자료를 사피봇에 등록하는 것뿐이고, 그 순간 사피봇은 벡터DB로 데이터를 해석해 할루시네이션을 없애면서 인사이트를 뽑아낼 수 있다”고 지적했다.

또한 비용 측면에서도 기존에 국내 시장에 도입돼 있는 시나리오 기반 챗봇 대비 훨씬 저렴하다는 설명이다. 박 본부장은 “시나리오 챗봇 도입시 솔루션 비용만 연간 수억원이 들기도 하는데, 인건비와 유지보수만 해도 월 수천만원 비용이 투입된다”며 “LLM 챗봇은 구축 기간도 적게는 2주 많게는 3개월이고 비용절감이 많이 이뤄진다”고 언급했다.

특히 최근 엔터프라이즈 AI 시장이 대형 LLM 중심에서 기업 맞춤 sLLM과 같은 소형 모델에 대한 니즈로 무게추가 이동하면서, 솔트웨어의 공략 지점도 맞아떨어지고 있다는 판단이다.

박 본부장은 “이제 LLM으로 많은 것을 할 수 있는 시대지만 모든 영역에서 원천기술이 필요하진 않다”며 “앞으로는 개발보다 프롬프트와 기술을 어떻게 활용하고 배포하며 파이프라인을 만들 것인지에 부가가치가 있을 것”이라고 내다봤다. 따라서 “기업이나 기관은 항상 비용과 보안 이슈를 걱정할 수밖에 없기 때문에 경량화된 AI 모델을 기반으로 맞춤형 에이전트를 사용하는 게 갈수록 중요해질 것”이란 생각이다.

박 본부장은 솔트웨어의 AI 기술력을 자신하고 있다. 그는 “본부 신설 직후 스마트팜 AI 기술 확보를 위해 네덜란드 와게닝겐 대학이 개최한 자율 온실 경연대회에 참가했는데, 당시 인력이 충분치 않았던 상황에서도 작물 재배용 AI 모델 개발 관련 온라인 챌린지 종합 4위라는 소기의 성과를 냈다”며 “자체 sLLM도 조만간 LLM 한국어 성능 평가지표인 ‘호랑이 리더보드’에 올려 10위권에 드는 걸 목표로 하고 있다”고 전했다.

물론 사피봇은 솔트웨어의 AI 사업에 있어 출발점일 뿐이다. 박 본부장은 “‘지혜’라는 의미를 담은 라틴어 ‘사피엔티아(sapiéntĭa)’에서 차용한 ‘사피’라는 브랜드로 AI 플랫폼 사업을 본격화할 것”이라며 “올해는 고객 레퍼런스를 쌓는 데 집중하고, 현재 회사의 클라우드 고객 절반 이상은 사피봇을 도입할 수 있도록 하는 게 목표”라고 말했다.

멀리 보면 단순히 매출원을 늘리는 것을 넘어 글로벌 AI 시장으로도 외연을 확장하겠다는 구상이다. 박 본부장은 “2~3년 내 사피AI 브랜드로 일어나는 매출이 솔트웨어 전체 매출의 20~30% 비중을 차지하는 수준으로 가야 하지 않을까 생각한다”며 “무엇보다 국내 AI 시장만으로는 규모가 작기 때문에 글로벌 목표를 잡고 마켓플레이스에서 언제든지 우리 솔루션을 다운로드하고 쓸 수 있도록 할 계획”이라고 밝혔다.