소프트웨어

IBM, 왓슨x에서 ‘라마 3.1’ ·‘미스트랄 라지 2’ 지원

디지털데일리 발행일 2024-08-01 14:58:05
  • 가
  • 가
이안나 기자

IBM 왓슨x [ⓒ IBM]

[디지털데일리 이안나기자] IBM은 최근 메타에서 발표한 ‘라마3.1’과 미스트랄 AI에서 발표한 ‘미스트랄 라지 2’ 등 최신 오픈소스 거대언어모델(LLM)을 왓슨x.ai에서 제공한다고 발표했다.

1일 IBM에 따르면 왓슨x 사용 기업들은 IBM 그래니트, 라마 3.1, 미스트랄 라지 2 등 오픈소스 인공지능(AI) 모델을 각 사 용도에 따라 자유롭게 선택하고 맞춤화해 사용할 수 있다.

라마 3.1은 각각 80억개, 700억개, 4050억개 매개변수를 가진 사전 학습된 오픈소스 생성형 AI 모델들로 구성됐다. 가장 크고 강력한 오픈소스 언어 모델로 평가받고 있는 라마 3.1-405B 모델은 한번에 처리할 수 있는 문맥 길이가 토큰 8192개에서 12만8000개로 16배 늘었다.

오픈AI GPT-4o와 같은 시장 독점적 모델들과 비교해 독해력, 코드생성, 학부 수준의 지식 분야 경쟁에서도 뒤지지 않는 성능을 보여주는 것으로 알려졌다.

1230억개 매개변수를 가진 미스트랄 라지 2는 코딩과 수학 부문에서 뛰어난 성능을 발휘, 80가지가 넘는 코딩 언어를 지원한다. 오픈AI GPT-4o, 앤트로픽 클로드 3 오푸스, 메타 라마 3.1 405B와 같은 최첨단 모델과 동등한 수준의 성능을 제공한다.

IBM 왓슨x는 사내 서버, 퍼블릭, 프라이빗, 하이브리드 클라우드 등 기업이 선호하는 인프라 환경에서 모델을 활용할 수 있는 유연성을 제공한다.

한편, 미스트랄 라지 2 모델은 기업에서 상업적으로 사용하려면 미스트랄 AI에 ‘미스트랄 커머셜 라이선스’을 요청해야 하지만, IBM 왓슨x에선 상업적 목적으로도 자유롭게 사용할 수 있다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
이안나 기자
anna@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스