e비즈*솔루션

래블업, 파이콘 코리아서 LLM 개발 시연

디지털데일리 발행일 2023-08-16 17:32:35
  • 가
  • 가
서정윤 기자
래블업의 백엔드AI [ⓒ래블업]
래블업의 백엔드AI [ⓒ래블업]

[디지털데일리 서정윤 기자] 래블업은 파이콘 코리아 2023에서 자사 인공지능(AI) 연구·개발 및 서비스 플랫폼 소프트웨어인 백엔드닷AI의 거대언어모델(LLM) 개발을 시연했다고 16일 밝혔다.

래블업은 메타의 라마2 모델을 포함한 다양한 오픈소스 LLM을 백엔드닷AI의 자동화 시스템인 패스트트랙으로 한국어에 맞춰 미세 조정하는 내용을 시연했다. 래블업의 엔비디아 H100 클라우드 팜에서 라마2를 12시간 만에 파인튜닝해 챗봇을 만들기도 했다.

백엔드닷AI는 ▲GPU 클러스터 활용도 극대화 ▲직관적인 사용자 경험 및 관리 ▲저비용·저지연 AI 모델 및 서비스 기술 ▲다양한 AI 반도체 지원 등 다양한 기능을 제공하고 있다.

래블업은 이번 LLM 개발, 파인튜닝 및 서비스 자동화 기능 공개를 통해 업무 자동화, 프로그래밍 코드 개발 등 생성AI 응용 분야에 백엔드닷AI를 활용할 수 있음을 입증했다.

신정규 래블업 대표는 "모든 조직이 백엔드닷AI 를 사용해 필요에 맞는 고유한 LLM을 쉽게 파인튜닝하고 운영할 수 있을 것"이라고 말했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
서정윤 기자
seojy@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기

이 기사와 관련된 기사

디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스