IBM, 왓슨x에서 미스트랄 라지 모델 지원
[디지털데일리 이안나기자] IBM은 왓슨x.ai에서 미스트랄 라지(Mistral Large) 모델을 제공한다고 25일 밝혔다. 이제 기업들은 다양한 파운데이션 모델을 폭넓게 이용하고 맞춤형으로 배포할 수 있다.
왓슨x.ai는 인공지능(AI) 개발자를 위한 IBM 기업용 AI 스튜디오다. IBM 그래니트(Granite) 모델 외에도 다양한 오픈소스 및 상용 모델 선택이 가능하다. 이를 용도에 따라 변형하거나 비즈니스 솔루션 및 애플리케이션과 통합해 사용할 수 있다.
IBM은 이미 왓슨x.ai 내에서 기업 환경에 적용할 수 있는 소규모 모델 Mixtral-8x7B를 제공하고 있다. 이 모델은 IBM이 최적화한 모델로, 주어진 시간 동안 처리할 수 있는 데이터 양이 기존 모델보다 50% 증가했다. 새롭게 추가된 미스트랄 라지는 서비스형소프트웨어(SaaS)로 먼저 제공된다.
이제 왓슨x 고객은 추론과 다국어 기능이 필요한 복잡한 전사적 작업을 처리하도록 최적화된 미스트랄 AI 강력한 모델을 활용할 수 있다. 검색증강생성(RAG) 전문화를 통해 장시간 채팅 상호작용과 대용량 문서 처리가 가능하며, 사용자 정의 함수나 API와 같은 외부 도구에 연결할 수 있다.
기업들은 이제 왓슨x 플랫폼에서 미스트랄 라지를 통해 데이터 스토어, 프롬프트 랩, 모델 튜닝, 프로세스 모니터링 및 거버넌스 기능을 포함한 추가적인 엔터프라이즈 지원 제품을 활용할 수 있다.
IBM은 왓슨 플랫폼에 미스트랄 AI 상용 모델을 제공해 개방형 멀티 모델 전략을 확장한다는 계획이다. 또 IBM은 한도형 지적 재산권 보상 제도를 통해 미스트랄 라지에 대한 고객 보호를 제공한다. 이는 IBM이 그래니트 모델에 대한 고객 보증 제도를 적용한 이래 제3자 파운데이션 모델까지 확대한 첫 번째 사례다.
IBM은 “왓슨x 고객은 특정 플랫폼에 종속되지 않고 온프레미스(사내 서버)나 퍼블릭 클라우드 제공업체 등 원하는 환경에서 왓슨x.ai 내 모델을 배포할 수 있다”며 “빠르게 변화하는 AI 분야에서 기업이 민첩하게 적응하고 인프라 및 개발에 대한 매몰 투자를 피하려면 유연성이 중요하다”고 전했다.
[인터뷰] 돈 되는 렌탈 데이터?...신상용 프리핀스 대표 “렌탈 창업부터 금융 솔루션까지 함께할 플랫폼”
2024-11-23 12:05:50행안부, 클라우드 네이티브 제도개선 착수…“공공SW 전반 변화해야”
2024-11-23 09:39:29주파수 재할당대가, 정부가 부르는게 값? “산정방식 검토 필요”
2024-11-22 18:23:52