[디지털데일리 권하영기자] 기업들이 다양한 파운데이션모델을 자유롭게 조합한 소형거대언어모델(sLLM)을 통해 맞춤형 AI 서비스를 셀프 구현하는 시대가 열린다.

SK C&C(대표 윤풍영)는 2기업들이 손쉽고 빠르게 맞춤형 sLLM을 구현하도록 지원하는 플랫폼인 ‘솔루어 LLM옵스(Solur LLMOps)’를 제공한다고 20일 밝혔다.

sLLM은 챗GPT, 하이퍼클로바X, 제미나이 등 거대언어모델(LLM)에 비해 소형이지만, 특정 영역에 특화된 학습이 가능하다. 컴퓨팅 자원도 훨씬 적게 소모해 개발 비용을 줄이고 보안을 강화할 수 있는 것이 특징이다.

이번에 SK C&C가 선보인 솔루어 LLM옵스는 다양한 외부 파운데이션모델을 조합하고 활용할 수 있도록 한다. 상용 LLM 뿐만 아니라, 오픈소스 LLM으로 만들어진 다양한 파운데이션 모델도 활용할 수 있다. 기업 AI특성에 맞는 sLLM을 구축하기 위해 필요한 파운데이션 모델을 추천해 주고, 선택·조합·활용하는 과정을 지원한다.

특히 기업 업무에 맞춘 ▲데이터 수집 및 전처리 ▲자동 학습데이터 생성 ▲외부 파운데이션 모델을 활용한 학습 ▲sLLM 생성·테스트 등 과정 전반에 하이퍼오토메이션(초자동화)을 적용, 기업 맞춤 sLLM 구축 과정에서 효율성을 높이고 비용도 절감시킨다.

실제로, 솔루어 LLM옵스는 기업이 보유한 데이터 수집과 동시에 비정형 데이터를 전처리해 학습용 데이터로 자동 생성한다. 이후 선택된 외부 생성형 AI 파운데이션모델을 활용해 빠르게 학습시키고, 기업 업무 목적에 맞는 sLLM을 완성한다. 서버리스(Serverless) 학습자원 관리로 제한된 리소스를 최적화하는 아키텍쳐도 제공한다.

AI가 오답을 생성하는 할루시네이션(Hallucination, 환각) 현상 제거와 sLLM 테스트 기능도 있다. 데이터 전처리, 모델 생성, 평가, 활용 각 단계에서 할루시네이션을 처리하는 AI 자동화 도구를 제공해 비전문가도 안심하고 sLLM을 만들 수 있다는 설명이다.

또한 채팅창에서 간단한 질문으로 완성도 테스트를 수행할 수 있고, 테스트에 필요한 질문도 자동으로 제공한다.