e비즈*솔루션

오케스트로, ‘초거대AI 플랫폼 이용지원 사업’ 공급기업 선정

디지털데일리 발행일 2024-09-02 09:26:49
  • 가
  • 가
권하영 기자
[Ⓒ 오케스트로]
[Ⓒ 오케스트로]

[디지털데일리 권하영기자] 오케스트로(대표 김민준·김영광)는 과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 주관하는 ‘초거대 AI 기반 플랫폼 이용지원 사업’에 공급기업으로 선정됐다고 2일 밝혔다.

이 사업은 초거대 인공지능(AI) 플랫폼을 보유한 공급기업과 활용 수요를 가진 중소·벤처기업 및 공공기관을 매칭해, 공급기업이 수요기관에 심층 컨설팅, 개념검증(PoC), 최적화·고도화 등 종합 서비스를 제공하도록 지원한다.

오케스트로는 프라이빗 및 멀티·하이브리드 클라우드 구축부터 클라우드 네이티브 설계·운영까지 엔드투엔드 서비스를 제공하는 클라우드 전문기업으로, 클라우드 풀스택 지원을 위한 솔루션 및 생성형 AI 솔루션을 보유하고 있다.

이번 사업을 통해 오케스트로는 클라우드 네이티브 기반의 대화형 AI 솔루션을 제공할 계획이다. 손쉽게 생성형 AI를 만들 수 있는 ‘관리자’ 기능과 검색을 통해 원하는 정보를 얻을 수 있는 ‘사용자’ 기능을 구현할 예정이다.

특히 오케스트로는 검색증강생성(RAG) 기술을 활용해, 대규모언어모델(LLM)에서 발생하는 환각현상(Hallucination)을 해소했다. 관리자가 업로드한 문서 내 정보만 활용해 답변하도록 설정하고, 필요시 답변 생성에 활용한 근거 문서를 사용자에게 제공한다.

또한 고객 도메인에 특화된 LLM을 파인튜닝(미세조정)하고 배포할 수 있도록 클라우드 네이티브 기반으로 솔루션을 설계했다. 이로써 폐쇄망 및 멀티·하이브리드 클라우드에서 고객 도메인에 대한 데이터 유출 없이 안정적으로 AI를 학습·배포할 수 있다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
권하영 기자
kwonhy@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스