SK C&C, 클라우드 제약 없는 AI 특화 서비스 출시
[디지털데일리 권하영기자] 사용하는 클라우드 종류에 상관없이 다양한 생성형 인공지능(AI)을 손쉽게 불러 사용하고, 기업 상황에 맞춰 AI 서비스 개발·운영을 지원하는 AI 특화 클라우드 서비스가 나왔다.
SK C&C(대표 윤풍영)는 기업이 보유한 클라우드 환경에 맞춰 빠르고 편하게 생성형 AI를 연동하고 AI 서비스를 전개하도록 지원하는 ‘AI 랜딩존 서비스’를 3일 선보였다.
AI 랜딩존 서비스는 클라우드 자원을 안전하게 배포하고 관리하는 플랫폼인 랜딩존에서 코드형인프라(IaC, Infrastructure as Code)를 기반으로 생성형 AI 모델을 쉽고 빠르게 생성하고 관리할 수 있는 AI 특화 클라우드 관리 서비스다.
물리적인 하드웨어 구성이나 인터페이스 도구 없이 프로그래밍 코드로 인프라를 구성하고 관리하는 IaC를 생성형 AI 서비스 개발 및 운용에 활용할 수 있게 한 것이다.
SK C&C는 금융 및 제조 등 주요 산업 고객들과 함께 진행한 여러 엔터프라이즈 AI 개발 사업에서 AI 랜딩존 서비스 우수성과 실효성을 확인했다는 설명이다.
실제로 AI 랜딩존을 도입한 결과, 생성형 AI 서비스 구축 기간이 30% 이상 단축됐고 운영 비용도 10% 이상 절감됐다.
‘AI 랜딩존’이 보유한 가장 큰 강점은 아마존웹서비스(AWS), 마이크로소프트(MS) 애저, 구글 클라우드 등 어떤 클라우드를 사용하든 다양한 거대언어모델(LLM)을 빠르게 연계하고 활용할 수 있다는 점이다.
상용 LLM뿐만 아니라 오픈 LLM도 활용할 수 있는 응용프로그램인터페이스(API)를 기본적으로 제공, 고객들은 AI 랜딩존 서비스만으로 원하는 다양한 LLM을 손쉽게 호출하고 활용할 수 있다.
SK C&C는 고객이 원하는 생성형 AI 서비스 규모에 따라 ▲베이직 AI 랜딩존 ▲스탠다드 AI 랜딩존 ▲엔터프라이즈 AI 랜딩존을 제공한다.
베이직 AI 랜딩존은 일부 특정 업무에 국한된 AI 서비스를 구현하고 테스트하는 데 유용하다. 스탠다드 AI 랜딩존은 검색증강생성(RAG) 기술을 탑재하고, LLM과 기업 내부 지식 베이스를 연계해 더 정확한 답변을 생성하도록 설계했다. 엔터프라이즈 AI 랜딩존은 머신러닝(ML)·딥러닝(DL) 기술 지원은 물론, 빠른 AI 서비스 전개 및 배포를 위한 ML오퍼레이션(MLOps)과 LLM오퍼레이션(LLMOps) 등도 제공한다.
[인터뷰] 돈 되는 렌탈 데이터?...신상용 프리핀스 대표 “렌탈 창업부터 금융 솔루션까지 함께할 플랫폼”
2024-11-23 12:05:50행안부, 클라우드 네이티브 제도개선 착수…“공공SW 전반 변화해야”
2024-11-23 09:39:29주파수 재할당대가, 정부가 부르는게 값? “산정방식 검토 필요”
2024-11-22 18:23:52