GPU 1개로 고성능 LLM 구동...업스테이지, 차세대 '솔라 프로' 출시
[디지털데일리 이건한 기자] 인공지능(AI) 기술기업 업스테이지가 1개의 GPU로도 구동이 가능한 자사의 차세대 LLM(대형언어모델)인 '솔라 프로'를 정식 출시했다고 5일 밝혔다.
아마존웹서비스(AWS)에서 서비스되는 솔라 프로의 매개변수는 220억개(22B)로 기존 모델인 '솔라 미니(10.7B)보다 2배 이상 크고 성능은 50% 이상 향상됐다. 금융, 법률, 헬스케어 등 다양한 산업별 전문지식을 사전학습해 뛰어난 문맥 이해 및 추론 능력을 보인다. 또한 기업이 보유한 내부 데이터를 학습시키면 복잡한 기업 내 맞춤형 업무도 높은 정확도로 처리할 수 있다. 지난 9월 오픈소스로 공개한 '솔라 프로 프리뷰' 버전은 미국 파인튜닝 전문 기업 프레디베이스(Predibase) 조사 결과 파인튜닝 성능 1위를 기록하기도 했다.
또한 솔라 프로는 높아진 성능에도 단 1개의 GPU로 구동이 가능한 수준으로 경량화 된 것이 특징이다. 업스테이지에 따르면 해당 기준은 VRAM 80GB 기준으로 'H100', 'A100' 등 현재 업계에서 널리 쓰이는 엔비디아의 AI 구동용 GPU 수준이다. 현재 세계적인 AI 열풍에 따라 관련 GPU가 대당 수천만원을 호가하는 상황이다. 따라서 최소 GPU로 최대의 구동 효율을 만드는 건 AI 업계 전반의 큰 관심사이며 LLM 개발사의 비즈니스 경쟁력과도 직결된다.
업스테이지는 솔라 프로의 경량화를 위해 AI 모델 개발·배포 서비스 '아마존 세이지메이커(Amazon Sagemaker)'를 활용해 모델 학습 시간을 크게 단축했다. 'DUS(깊이 확장 스케일)' 기술과 데이터 전처리 등 자체 모델링 방법론도 한층 고도화했다고 설명했다.
솔라 프로는 오늘부터 전세계 100개 이상의 LLM이 탑재된 '아마존 베드록 마켓플레이스'에서 판매된다. 사용자는 이곳에서 원하는 모델을 찾아 확장 요구 사항에 맞는 적합한 인프라를 선택한 뒤, 완전 관리형 엔드포인트로 AWS에 쉽게 배포할 수 있다. 솔라 프로는 파운데이션 모델을 제공하는 AWS의 머신러닝 허브 아마존 세이지메이커 점프스타트와 AWS 마켓플레이스에도 출시된다.
업스테이지 김성훈 대표는 "솔라 프로는 금융, 법률, 헬스케어 등 다양한 산업군에 투입돼 업무 자동화 및 효율성과 생산성을 극대화할 수 있다"며 "AWS의 확장성과 업스테이지의 기술력의 조합으로 많은 기업이 최신 AI 기술을 더욱 손쉽게 도입할 수 있을 것"이라고 말했다.
[DD 주간브리핑] 모바일 신분증 시대 도래…오징어게임 시즌2 공개
2024-12-22 10:00:00[IT백과] 생성형AI의 진화 ‘AI 에이전트’, 기존 AI 비서와 뭐가 다를까?
2024-12-21 13:27:59[종합] AI 초격차 확보 공고히 한 오픈AI…12일간 여정 끝엔 ‘쩐의전쟁’ 남았다
2024-12-21 11:15:25오픈AI, o1보다 더 강력한 o3 예고…개발자·연구자 대상 사전 테스트 실시
2024-12-21 08:02:48