[디지털데일리 이안나기자] 레드햇이 생성형 인공지능(AI) 워크로드 전문기업 뉴럴매직(Neural Magic)을 인수한다고 지난 12일(현지시간) 발표했다. 이를 통해 레드햇은 오픈소스 기반 대규모언어모델(LLM) 최적화 기술로 엔터프라이즈 AI 시장에서 사업을 확장할 것으로 전망된다.

현재 생성형AI를 지원하는 LLM은 규모가 계속 커지고 있다. 안정적인 LLM 서비스 구축엔 막대한 컴퓨팅과 에너지 자원, 전문 운영 기술이 필요하다. 이에 대부분 기업들은 맞춤형 AI 도입에 어려움을 겪고 있는 상황이다.

레드햇은 이러한 문제를 해결하기 위해 오픈소스 프로젝트 vLLM을 통한 혁신에 주력하고 있다. UC 버클리에서 개발된 vLLM은 AMD GPU, AWS 뉴런, 엔비디아 GPU, x86 CPU 등 다양한 하드웨어를 지원하는 개방형 모델 서빙 프로젝트다.

2018년 MIT에서 분사한 뉴럴매직은 딥러닝 추론 소프트웨어 성능 최적화를 목표로 설립됐다. 특히 vLLM 분야에서 전문성을 바탕으로 엔터프라이즈급 추론 스택을 구축해 왔다. LLM 컴프레서 개발과 최적화된 모델도 제공한다.

이런 기술을 활용하면 기업들은 고가의 그래픽처리장치(GPU) 서버 없이도 일반 x86 중앙처리장치(CPU)로 AI 모델을 구동할 수 있다. 특히 하드웨어 추가 구매 없이 기존 IT 인프라를 활용할 수 있어 초기 도입 비용을 크게 절감할 수 있다. 전력 소비량도 줄일 수 있어 운영 비용 절감 효과도 기대된다.

레드햇은 이번 인수를 통해 AI 기술 포트폴리오를 한층 강화할 계획이다. 현재 레드햇은 ▲RHEL AI(IBM Granite 오픈소스 LLM 개발·테스트·실행 플랫폼) ▲레드햇 오픈시프트 AI(쿠버네티스 환경의 AI 개발·배포 플랫폼) ▲인스트럭트랩(IBM과 공동 개발한 오픈소스 AI 커뮤니티 프로젝트) 등을 제공하고 있다.

레드햇은 뉴럴매직 기술을 자체 AI 제품군에 즉시 통합할 계획이다. 우선 레드햇 엔터프라이즈 리눅스(RHEL) AI와 오픈시프트 AI에 이 기술을 접목해 성능을 개선한다. 또한 IBM 그래니트AI 모델과도 통합해 기업들이 원하는 방식으로 AI를 구축하고 활용할 수 있도록 지원한다.

매트 힉스(Matt Hicks) 레드햇 최고경영자(CEO)는 “AI 워크로드는 하이브리드 클라우드 전반에 걸쳐 고객 데이터가 있는 모든 곳에서 실행돼야 한다”며 “유연하고 표준화된 개방형 플랫폼과 도구가 필수”라고 강조했다.