[디지털데일리 이건한 기자] "지난 2년 동안 굉장히 지겨울 정도로 이론적이고, 소모적인 인공지능(AI)에 대한 이야기가 많았습니다. 그런 의미에서 2025 와이즈엣지(Wise Edge) 행사는 와이즈넛이 지난 25년 동안 걸어온 모습처럼 '실제로 보여지고 쓰일 수 있는 AI'를 증명하기 위해 노력한 결과물을 선보이는 자리가 될 것입니다."

강용성 와이즈넛 대표는 18일 서울 여의도 글래드 호텔에서 자사의 기술 및 사업 비전을 소개하며 이 같이 말했다. '인간에게 힘을 실어주는 AI 에이전트(Empowering human with AI agents)'란 행사 주제처럼, 이날 발표는 주로 '실용적인 AI 에이전트 개발에 필요한 기술과 접근법'과 와이즈넛의 적용 사례 및 제품 시연 중심으로 구성됐다. 올해 창립 25주년을 맞이한 토종 기업 와이즈넛은 현재 국내 AI 전문기업 중 흑자 경영을 이어가는 소수의 기업 중 하나다. 지난 1월 코스닥 기업 공개에 성공했으며 올해는 국내외 사세 확장에 박차를 가하고 있다.

LLM은 '고등학생'... 전문 AI 개발은 '현장 데이터'가 중요

강 대표는 글로벌 AI 에이전트 전성시대를 앞두고 먼저 AI=LLM(대형언어모델)란 인식이 바뀌어야 한다고 강조했다. 강 대표에 따르면 LLM은 마치 고등학교를 막 졸업한 학생과 같다. 이후 어떤 전공을 갖는가에 따라 의사나 자동차 엔지니어, 금융인 등 어떤 AI 에이전트로도 변모할 수 있다. 따라서 AI 에이전트 개발은 단순 LLM에서 나아가 개별 기업이 속한 도메인 날리지(Domain knowledge, 전문지식)와 RAG(검색증강생성), 업무 프로세스의 특성 이해가 중요하다는 설명이다.

이때 핵심은 AI 에이전트가 사전 학습되지 않은 기업 정보를 최대한 효율적으로 활용할 수 있도록 만드는 기술 및 설계 노하우다. 이는 최근 업계에서 AI 개발 시 특정 도메인 데이터 특화 학습을 진행하거나 '외부DB 연동' 개념인 RAG를 널리 활용하는 이유다.

다만 특화 학습이 만능은 아니다. 장정훈 와이즈넛 CTO(최고기술책임자)는 "도메인 특화에 너무 집중하면 오히려 AI의 기존 지식이 망가지는 망각 현상도 발생할 수 있다"며 "이를 방지하며 성능을 높이는 RAG는 필요 지식 중 중요한 체크 포인트를 찾아 효율적으로 학습할 수 있어야 한다"고 말했다. 또한 "이와 관련해 와이즈넛은 이미 다양한 기업 요구 사항에 대응하는 120개 이상의 특화 파인튜닝(미세조정) 모델을 개발해둔 상태"라고 덧붙였다.

더불어 AI가 도입된 현장에서의 정확한 성능 측정을 위해 자체 개발한 AI 모델 벤치마크(성능테스트)도 개발해 활용 중이다. 이 또한 기존의 널리 쓰이는 MMLU 등 범용 벤치마크는 개별 고객사가 요구하는 특정 부문의 성능 요소를 정확히 측정하기 어려운 한계가 있기 때문이란 설명이다.

사업은 실전... 와이즈넛의 무기는 '5500여 고객사례'

이처럼 와이즈넛이 현장의 특화 데이터의 수집, 이해, 분석 및 맞춤형 AI 에이전트 개발의 중요성을 자신하는 배경은 지난 25년간 축적된 사업 경험에 기인한다. 와이즈넛은 창립 이래 5500여개 고객사를 대상으로 1000만건의 특화 학습 데이터 경험, 36건의 LLM 사업과 13건의 LLM 연구과제를 수행한 이력이 있다.

이 가운데 확보한 노하우를 바탕으로 지금은 각 사업에 적용하는 LLM을 ▲도메인 특화모델 ▲태스크 특화모델 ▲고객사 특화모델로 구분해 다양한 현장 도입 사례를 만들어 내고 있다. 또한 김분도 와이즈넛 공공사업부문장에 따르면 이들 모델은 분류 특성에 맞춰 다단계의 차별화된 개발 과정을 거친다.

예컨대 '질의응답 LLM', '문서작성 LLM' 등 특정 작업에 최적화된 성능의 모델을 개발할 경우 단지 각 태스크 맞춤형 데이터를 구축 후 학습하는 정도가 끝이 아니다. 각 모델이 특별히 잘 수행해야 할 기능 범주를 지정하는 구조 미세조정부터, 필요한 데이터 범주 이상의 작업을 하지 않도록 모델과 특화 데이터 매칭을 고도화하는 작업, 마지막으로 굉장히 길고 복잡한 명령을 다각도로 던져도 논리적인 답변을 내놓는지 확인하는 엣지 케이스 테스트 등의 세밀한 최적화 과정이 추가된다.

와이즈넛은 사업 개시에 앞서 생성형 AI에 최적화된 인프라 설계도 제안한다. 김 부문장은 "우리는 단지 GPU(그래픽처리장치)에만 의존하지 않는다. 고객 요구사항에 맞는 모델과 추론 요소, 예상 사용자 수와 동시 접속자 수, 데이터 처리량 등을 고려해 필요할 경우 추론 영역은 국산 NPU(신경망처리장치)를 적절히 조합해 비용과 효율을 개선 효과를 제시할 수 있다"고 말했다.

와이즈넛은 이와 같은 노하우를 바탕으로 지난해 수행한 한국도로공사의 '생성형 AI 1차 구축 사업', 고용노동부의 '근로감독관 업무지원 생성형 AI 봇 및 유사 검색 서비스', 한전 KPS의 '가사업무 생성형 AI 구축을 위한 시범 구축 용역'. 정보통신산업진흥원(NIPA)의 '판례 검색과 문서 작성을 지원하는 생성형 AI 기반 법률 비서 및 보조 서비스' 2차년도 사업 진행 건 등 다양한 공공부문 진행 사례를 이날 행사에서 상세히 소개했다. 이밖에 금융 부문에서도 다양한 레퍼런스를 갖고 있으며, 올해는 상장 직후 계획으로 글로벌 시장에서 일본과 동남아 시장을 적극 공략할 계획이다.

실용성으로 무장한 AI 에이전트 시연 '눈길'

이어 말미에 약 15분간 진행된 와이즈넛의 실제 AI 에이전트 소개도 주요 기능 및 예시 사례에 대한 상세한 시연 구성으로 참석자들의 이목이 집중됐다. 와이즈넛AI 에이전트는 '생성형 AI로 할 수 있는 모든 기능 탑재'가 목적이다. 현재 첫단계로 실제 현장 수요와 활용도가 높은 ▲요약 ▲번역 ▲자료생성 ▲분석 ▲문서생성 ▲회의지원 ▲나만의 AI 등 7개 기능이 탑재되어 있다.

이 중 자료 생성 기능은 사전 학습된 데이터와 RAG 기반으로 확보된 데이터를 AI가 능동적으로 조합하는 모습을 보였다. 가령 '특정 도로의 통행 요금' 같은 계산형 질문에도 특별한 지시 없이도 AI가 필요한 데이터를 스스로 추론 및 발췌해 정확한 계산식에 의한 답변을 내놓는 식이다. 또한 검색된 문서, 뉴스 등 자료는 일일이 열어보지 않아도 '개별 AI 요약' 기능으로 핵심 내용 파악이 가능했다.

특히 에이전트 개념에서 활용도가 높아 보였던 기능은 '나만의 AI'다. 말 그대로 사용자가 본인만의 문서나 자료를 AI 에이전트에 학습(400페이지 문서 기준 수초 이내)해 개인적으로 활용할 수 있는 기능이다. 이는 와이즈넛 내에서도 개발팀이 내부 개발 매뉴얼을 본 기능으로 학습시켜 유용하게 활용 중이다. 이 외에도 문서 내용의 긍정, 부정 여부를 파악할 수 있는 '감성분석', '경향분석', '회의실 예약' 등 현업에서 다양하게 활용 가능한 기능들이 눈길을 끌었다.

강용성 대표는 "올해 상반기 출시를 앞둔 AI 에이전트 플랫폼을 공개한 이유는 AI 에이전트가 가져올 실질적 혁신을 와이즈넛만의 이야기로 예고하고자 하기 위함이었다"며 "지난 25년처럼 와이즈넛의 AI 에이전트로의 새로운 여정 또한 지켜봐 달라"고 말했다.