소프트웨어

오라클 “DB와 LLM 연동해 신뢰성↑…자연어로 앱 개발 지원”

이안나 기자
나정옥 한국오라클 부사장
나정옥 한국오라클 부사장

[디지털데일리 이안나기자] 챗GPT 등장 이후 인공지능(AI)은 급속도로 대중화되며, 사람들 일하는 방식에 영향을 미치고 있다. 특히 생산성·효율성을 추구하는 기업들은 생성형AI를 업무에 어떻게 활용해야 하는지를 최대 관심사로 두고 있다.

오라클은 ‘풀스택AI’ 접근을 지향한다. 특정 부분이 아닌 기술 스택 전반 모든 레이어마다 AI 솔루션을 제공하는 전략이다. 특히 데이터베이스(DB)와 대규모언어모델(LLM)을 연동해, 사용자가 자연어로 질문했을 때 맥락에 맞는 답변을 제공해 신속성과 편의성을 높인다.

나정옥 한국오라클 부사장은 21일 서울 강남구에서 진행한 기자간담회에서 “과거엔 ‘데이터 드리븐’을 외치는 기업이 많았지만, 아직까지 동일하다면 이미 경쟁사보다 뒤쳐져있는 것”이라며 “AI시대를 살고 있는 지금은 ‘애널리틱스(분석) 드리븐’ 기업을 지향해야한다”고 말했다.

구체적으로 오라클은 ▲ AI 인프라 ▲ 애플리케이션 ▲ AI 서비스 ▲ 데이터 플랫폼과 유기적으로 작동하는 오라클 클라우드 인프라스트럭처 생성형 AI 서비스를 제공한다.

오라클은 애플리케이션에선 생성형 AI를 내재화한 퓨전(Fusion) 애플리케이션을, AI 서비스에선 라마2, 코히어 LLM 미세조정·추론 서비스 및 데이터 플랫폼과 결합가능한 검색 증강 생성(RAG) 서비스를 제공한다. 데이터 플랫폼에선 DB에 AI를 내장하고, 마이SQL(MySQL) 히트웨이브 및 오라클 DB 23c에 벡터 지원 기능 등을 제공한다.

최근 오라클은 ‘OCI 생성형AI 서비스’를 정식 출시했다. 이 서비스는 OCI 슈퍼클러터와 통합을 기반으로 기업이 자체 데이터를 활용해 안전하면서 비용효율적인 방식으로 생성형 AI 서비스를 개발하도록 지원한다.

‘OCI 생성형 AI 에이전트 RAG 서비스’는 LLM과 OCI 오픈서치 기반으로, 사용자가 자연어 대화로 원하는 기업용 데이터 정보를 얻을 수 있다. 해당 서비스로 구축한 LLM 애플리케이션은 사내 데이터에 근거한 자연어 답변과 함께 참조 문서 정보를 제공해 정확도가 높다.

김태완 한국오라클 상무는 “(OCI 생성형AI 서비스는) 기업이 LLM 모델을 사용하면서 기술적 지위를 낮추고 활용성을 높이는 근간으로 활용할 수 있다”며 “현재는 라마2와 코히어 모델만 제공하지만, 조만간 미스트랄AI와 한글 버전도 적용해 고객 선택 폭을 지속적으로 넓힐 것”이라고 전했다.

RAG는 LLM 모델에서 답변을 생성할 때, 질문 맥락을 읽고 데이터들 검색을 해 의미있는 결과를 도출하는 기술이다. 답변을 기반으로 기업은 신뢰성 높은 애플리케이션을 만들기 때문에, 결국 적절한 답변을 제공하는 게 애플리케이션 근간을 이루는 핵심이라고 볼 수 있다.

OCI 생성형 AI 에이전트 RAG 서비스는 서비스와 연동되는 데이터가 위치한 벡터 데이터베이스 등록을 통해 RAG 기반 챗봇 서비스를 쉽게 구축할 수 있다. [ⓒ 오라클]
OCI 생성형 AI 에이전트 RAG 서비스는 서비스와 연동되는 데이터가 위치한 벡터 데이터베이스 등록을 통해 RAG 기반 챗봇 서비스를 쉽게 구축할 수 있다. [ⓒ 오라클]

오라클이 이 분야에서 강점으로 내세우는 건 RAG 서비스를 코드 개발 없이 자연어로 이용할 수 있다는 점이다. ‘AI 퀵 액션’ 기능은 메타 또는 미스트랄 AI 등의 주요 AI 공급업체를 비롯한 다양한 오픈소스 LLM에 노코드 액세스를 지원한다. 오픈소스 모델들을 오라클 클라우드 상에 빠르게 배포하는 역할을 한다.

가령 사용자가 ‘오라클이 엔비디아와 협업하는 소버린AI에 대해 알려줘“라고 입력하면, 바로 프롬프트에서 확인할 수 있거나 자연어로 최신 정보를 업데이트할 수 있다. 오라클은 검색서비스로 오픈소스인 엘라스틱서치(오픈서치)를 활용 중이다.

여기에 신뢰성 있는 LLM을 갖추기 위해선 사내 전통(레거시) 데이터와 통합이 필요하다. 오라클은 원천기술과 함께 여러 관리 서비스 운영 체계를 엔드투엔드(E2E)로 제공한다는 점을 차별점으로 언급한다.

김 상무는 “퀵 액션을 통해 파트너십을 맺고 모델 확장을 빠르게 하려는 로드맵을 갖고 있다”고 부연했다. 오라클DB와 마이SQL별 기능을 확대해 오픈서치와 기업이 사용하는 전통(레거시) 데이터를 LLM에 연동할 수 있는 기능을 추가로 개발하고 있다”고 덧붙였다.

오라클은 클라우드뿐 아니라 구축형(온프레미스) 환경에서도 최신 기술들을 이용할 수 있도록 지원한다. 나 부사장은 “기업들마다 이미 투자하거나 보유한 기술들이 많은데, 이를 그대로 유지하면서 새로운 기술들을 통합 지원하는 것이 오라클 전략”이라고 말했다.

이안나 기자
anna@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널