알리바바클라우드, 기업 생성용AI 활용 돕는 서버리스 솔루션 공개
[디지털데일리 권하영기자] 알리바바 클라우드는 AI컴퓨팅용 플랫폼 ‘PAI’(Platform for AI)과 탄력적 알고리즘 서비스 ‘EAS’(Elastic Algorithm Service)의 서버리스(Serverless) 버전을 2일 공개했다.
알리바바 클라우드는 지난 1월31일 싱가포르에서 개최된 AI&빅데이터 서밋에서 더 많은 자사 제품에 벡터엔진(vector engine) 기술을 통합할 계획을 밝힌 바 있다.
벡터엔진 기술이 통합되는 제품에는 데이터 웨어하우스 홀로그레스(Hologres), 검색 서비스 엘라스틱서치(Elasticsearch) 및 오픈서치(OpenSearch)등이 있으며, 이번 기술 통합은 기업이 다양한 대규모언어모델(LLM)에 더욱 쉽게 접근하고 맞춤형 생성형AI 애플리케이션을 구축하는 것을 가능하게 한다.
이번에 공개된 PAI-EAS 플랫폼은 사용자들이 필요에 따라 컴퓨팅 리소스를 활용하는 것을 가능하게 해 물리적 또는 가상 서버의 관리와 유지를 감독할 필요가 없어진다. 또한 사용한 컴퓨팅 자원에 대한 비용만 청구되므로 기존 요금 정책에 비해 인퍼런스 작업 비용을 50% 절감할 수 있다.
알리바바 클라우드는 검색증강생성(RAG) 프로세스를 지원하며, 자사 지식 기반을 토대로 LLM을 강화하도록 돕는다. 이는 정확도 향상, 연관성 높은 정보의 검색 속도 가속화와 보다 세밀한 인사이트 제공을 가능하게 한다는 설명이다.
비트코인이 불지른 가상화폐 ‘불장’… 금융당국, '이상거래' 모니터링 강화
2024-11-15 16:20:20[KB금융 '양종희 號' 1년 -上] 실적 무난했지만 내부통제 문제 심각… 빛바랜 성적표
2024-11-15 15:55:09한싹, 올해 3분기 12억원대 손실…AI 투자·인콤 인수 영향
2024-11-15 15:44:00“금융권 책무구조도, 내부통제 위반 제재수단으로 인식 안돼”
2024-11-15 15:19:31