구축사례

삼성전자, 구글 클라우드 TPU로 빅스비 학습 속도 18배↑

백지영
[디지털데일리 백지영기자] 구글 클라우드 코리아(대표 최기영)는 삼성전자에 클라우드 TPU(텐서 프로세싱 유닛)를 공급해 ‘빅스비’ AI 모델의 음성 인식 학습을 고도화했다고 21일 밝혔다.

클라우드 TPU는 구글 클라우드에서 AI 서비스를 사용해 최첨단 머신러닝 모델을 실행하도록 지원하는 맞춤형 주문형반도체(ASIC)다. 적용 후, 빅스비의 AI 모델 학습 속도가 기존 모델 대비 18배 향상됐다는 설명이다.

빅스비는 2020년 기준 전 세계 1억6천만 대 이상의 디바이스에서 9개 언어로 서비스되고 있는 지능형 음성 비서(보이스 어시스턴트)다.

삼성전자는 데이터 인식 속도와 학습 결과의 정확도를 더욱 향상시키기 위해 트랜스포머 기반 새로운 엔드투엔드 자동음성인식(ASR) 엔진을 개발해 지난 4월 정식 서비스를 시작했다. 이후 AI 모델의 학습 속도를 더욱 향상시키기 위해 E2E ASR 엔진의 모델 학습에 구글 클라우드 TPU를 도입했다.

이를 통해 빅스비의 해외 언어 서비스 확장으로 급증한 음성인식 데이터를 빠르게 처리해 더욱 효율적인 모델 학습 프로세스를 만들 수 있었다는 설명이다. 기존 모델이 약 180시간에 걸쳐 처리했던 학습량을 10시간만에 처리하며 속도를 18배 향상시켰다.

구글 클라우드 TPU는 단일 팟(Pod)에서 최대 2048개의 연산 노드까지 확장해 E2E ASR 엔진의 학습에 사용되는 머신러닝 작업 부하를 효율적으로 분산시키는 것이 특징이다.

우경구 삼성전자 무선사업부 AI팀 상무는 “삼성전자는 구글과의 협업을 통해 클라우드 TPU를 활용하여 빅스비의 모델 학습 단계를 빠르고 확장성 있는 구조로 성공적으로 바꾸었다”고 말했다.

<백지영 기자>jyp@ddaily.co.kr
백지영
jyp@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널