LG CNS, 생성AI 플랫폼 'DAP 젠AI' 출시…프라이빗 LLM 구현
[디지털데일리 서정윤 기자] LG CNS는 기업 고객을 위한 생성형 인공지능(AI) 플랫폼 'DAP 젠AI'(DAP GenAI)를 출시했다고 12일 밝혔다. 기존 거대언어모델(LLM)을 활용해 자신의 기업에 알맞는 생성AI를 만들 수 있는 게 특징이다.
LG CNS는 AI 서비스, 프롬프트, LLMOps 등 3대 모듈을 통해 기업의 AI 도입을 도울 예정이다. 고객은 DAP 젠AI를 자체 서버, 클라우드 등 보유 중인 인프라에 설치하기만 하면 자유롭게 사용할 수 있다.
DAP 젠AI에는 기업이 가진 문서나 데이터베이스 등 내부 정보자산만을 활용하고 다양한 보안 필터를 적용했다. LG CNS는 이를 토대로 환각현상을 방지하고 보안 고민도 해결했다.
고객사는 오픈AI의 챗GPT, 앤트로픽의 클로드, 구글의 팜2, LG AI연구원의 엑사원 등 거대언어모델(LLM)을 활용해 문서 요약, 분류와 같은 단순한 AI 서비스부터 상품 추천, 자료 기반의 보고서 작성 등과 같은 복잡한 영역의 서비스까지도 만들 수 있다.
서비스에는 내부 정보 유출 방지를 위한 필터 기능도 탑재됐다. 고객은 서비스를 개발할 때 주민등록번호, 휴대전화번호와 같은 개인정보를 비식별화하는 등 LG CNS가 사전 등록한 보안 필터를 활용할 수 있다. 내부 보안 규정에 맞춰 필터를 직접 생성해 적용하는 것도 가능하다. 예를 들어 특정 기술정보나 비밀정보에 해당하는 단어와 문장을 식별해 답변하지 않도록 고객이 직접 필터를 만드는 식이다.
AI 프롬프트는 생성AI의 활용에 있어 가장 중요한 프롬프트를 만들 수 있는 모듈이다. 프롬프트가 중요한 이유는 질문을 어떻게 입력하는 지에 따라 AI가 출력하는 결과값이 크게 달라지기 때문이다. AI 프롬프트에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 프롬프트 엔지니어링 노하우가 탑재됐다. 고객은 미리 구현해둔 프롬프트를 즉시 사용하거나 새로운 프롬프트를 만들어 업무에 적용할 수도 있다.
LLMOps는 기업이 엑사원이나 다양한 오픈소스 LLM을 파인튜닝함으로써 비즈니스에 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등 분야와 같이 프라이빗 LLM을 보유하고자 하는 고객을 위한 모듈이다. 고객은 원하는 LLM을 선택해 보유하고 있는 데이터를 학습시킬 수 있다. LLM을 학습시킬 때에는 파라미터 값을 별도 설정해 LLM의 성능도 유연하게 조정할 수 있다. 학습 과정은 실시간으로 모니터링 가능하다.
LLMOps는 만들어진 모델들간 성능 비교도 지원한다. 고객은 다양한 비교를 통해 최적의 결과를 도출하는 LLM을 구현할 수 있다. LG CNS는 고객이 상황별로 서비스 최적의 LLM을 선택해 활용할 수 있도록 DAP 젠AI를 지속적으로 고도화해나갈 계획이다. 복수의 LLM을 활용하는 고객 맞춤형 멀티 엔진 전략의 일환이다.
박상균 LG CNS D&A사업부장은 "앞으로도 고객이 생성AI와 같은 원천기술을 통해 비즈니스를 혁신할 수 있도록 앞장서겠다"고 말했다.
MBK, 수십조 굴리지만 '스튜어드십 코드' 미도입 논란… 기업 ‘거버넌스 개선’ 가능한가?
2025-01-05 18:17:57AI 기술 곳곳에…금융 비서 서비스로 변신하는 카카오페이
2025-01-05 14:28:04美 뉴욕증시 상장 최대 비트코인 현물 ETF서 5천억 순유출
2025-01-05 14:14:24[오징어게임2 이펙트] 'AV표지 게재→빛삭' 박성훈, 오히려 팔로워 급증
2025-01-05 13:27:292025년 거시경제·금융시장 환경 어떨까…"물가 안정 바탕으로 통화정책 전환"
2025-01-05 12:00:00