퀄컴-미스트랄 AI, 엣지 디바이스 생성형 AI 모델 공동 구축 [SDS 2024]
[디지털데일리 김문기 기자] 퀄컴은 23일(현지시간) 미국 와일레아 비치 리조트 메리어트에서 열린 스냅드래곤 서밋 2024에서 미스트랄 AI(Mistral AI)와의 협력을 발표했다.
이번 협력을 통해 양사는 스냅드래곤 8 엘리트 모바일 플랫폼, 오토모티브용 스냅드래곤 콕핏 엘리트 및 스냅드래곤 라이드 엘리트, AI PC용 스냅드래곤 X 시리즈 컴퓨트 플랫폼에 기반한 엣지 디바이스에 미스트랄 AI의 최첨단 생성형 AI 모델인 미니스트랄 3B(Ministral 3B)와 미니스트랄 8B(Ministral 8B)를 구현한다.
미니스트랄 3B는 온디바이스 사용을 목적으로 설계된 미스트랄 AI의 첫 상업용 프리미어 AI 모델이다. 미스트랄 AI의 미니스트랄 3B와 미니스트랄 8B는 강력하면서도 컴팩트해 스마트폰, 차량 등의 디바이스에 탑재하기에 이상적이다. 온디바이스 생성형 AI는 개인정보 보호, 즉각성, 신뢰성, 비용 절감, 전력 효율성 등 다양한 이점을 제공한다.
두르가 말라디(Durga Malladi), 퀄컴 수석 부사장 겸 기술·기획·엣지 솔루션 부문 본부장은 “미스트랄 AI와의 협력 소식을 발표하게 되어 매우 기쁘다. 이번 협력이 최신 AI 기술로 엣지 디바이스를 강화한다는 퀄컴의 목표에 기여할 것으로 기대한다”라며, “미스트랄 AI의 미니스트랄 3B와 미니스트랄 8B를 통해 디바이스 제조 업체, 소프트웨어 공급 업체 및 디지털 서비스 제공 업체는 온디바이스 AI의 역량을 기반으로 사용자의 요구와 필요를 이해하는 AI 비서 및 기타 애플리케이션과 같은 혁신적인 경험을 제공할 수 있게 될 것”이라고 말했다.
양사는 빠른 시일 내에 개발자에게 퀄컴 AI 허브을 통해 미니스트랄 3B 및 미니스트랄 8B를 제공하기 위해 협력하고 있다. 현재 퀄컴 AI 허브는 미스트랄 7B v0.3(Mistral 7B v0.3)을 비롯해 다양한 주요 미스트랄 AI모델을 제공해 개발자와 사용자가 미스트랄 AI의 최첨단 역량을 활용하도록 돕고 있다.
마조리 자니위츠(Marjorie Janiewicz) 미스트랄 AI 글로벌 수익 총괄은 “새롭게 선보이는 미스트랄 3B는 300만 개의 파라미터로 작지만 강력하며, 스마트폰, 차량 등 다양한 기기에서 실행하기에 이상적”이라며, “이는 미스트랄.AI가 온디바이스 사용을 위해 설계한 첫 번째 상용 AI 모델로 디바이스 제조업체, 소프트웨어 벤더, 디지털 서비스 제공업체가 AI 어시스턴스 및 사용자 요구와 필요를 이해하는 애플리케이션 등 혁신적인 경험을 제공할 수 있도록 지원할 것”이라고 밝혔다.
이어, “온디바이스 AI의 장점을 통해 프라이버시 강화, 즉시성, 신뢰성, 비용 절감 및 에너지 효율성 등 다양한 혜택을 누릴 수 있다”라며, “개발자들은 퀄컴 AI 허브를 통해 Mistral 3B 및 기타 미스트랄 AI 모델에 접근할 수 있으며, 이 허브에서는 고급 AI 모델과 개발자 및 사용자가 가장 정교한 AI 기능을 활용할 수 있도록 지원한다”고 덧붙였다.
그는 “ AI 허브 내의 미스트랄 모델들은 스냅드래곤 및 퀄컴 플랫폼에서 빠르고 효율적으로 실행될 수 있도록 최적화했다”라며, “첨단 스냅드래곤 프로세서의 성능을 활용함으로써, 혁신가들은 저희의 프론티어 모델을 통해 새로운 AI 애플리케이션을 개발하고, 사용자에게 뛰어난 성능과 효율성을 제공할 수 있게 될 것”이라고 기대했다.
MBK, '국가핵심기술 기업' 해외매각 우려 여전히 쟁점… 고려아연 M&A, 정부 역할 필요↑
2024-12-22 19:52:35스트레스 완충자본 규제 유예… 한시름 놓은 은행권, 기업금융 고삐죌까
2024-12-22 14:06:20심각한 노인빈곤율…"면세자에 대한 환급형 세액공제 도입해야"
2024-12-22 12:38:24올해 정보보호 투자액 2조원 돌파…공시 의무화 효과 '톡톡'
2024-12-22 12:00:00