인텔 메테오레이크 1세대 NPU 도입…일반 사용자도 AI 컴퓨팅 확장
[디지털데일리 김문기 기자] 인텔 메테오레이크가 일반 사용자도 AI를 활용할 수 있도록 대중화에 나선다.
인텔은 지난 8월 23일(현지시간) 말레이시아 페낭에서 열린 ‘인텔 테크 투어 2023’에서 클라이언트 모바일 PC 대상 14세대 인텔 코어 프로세서(코드명 메테오레이크)를 시작으로 인텔이 PC 및 엣지에서 추구하는 인공지능 기술에 대한 비전과 인텔이 성공할 수 있는 비결에 대해 공유했다.
이 자리에서 대런 크루즈 인텔 인공지능(AI) 소프트웨어 아키텍처 부문 수석 엔지니어와 톰 피터슨 인텔 펠로우는 지난 6년간 NPU에 대한 도전과 솔루션의 핵심 역량에 대해 소개했다.
메테오 레이크는 AI 를 클라이언트 PC 에 적용해 더욱 빠른 AI 연산은 물론 더 낮은 비용으로 독립적이고 강화된 데이터 개인정보보호 기능을 구현할 수 있다. 인텔은 클라이언트 PC 에서 기업 엣지까지 이러한 PC 의 변화를 주도하기 위해 AI 에 특화된 저전력 플랫폼을 창조하고 새로운 AI 경험을 제공하는 폭넓은 x86 앱 생태계를 지원하는 도구를 개발 중이다.
메테오 레이크는 성능 병렬성과 쓰루풋을 보유한 GPU 는 미디어, 3D 애플리케이션 및 렌더링에서
활용되는 AI에 특화돼 있다. NPU(Neural Processing Unit)는 지속적인 AI 및 AI 오프로드를 위한 특수 저전력 AI
엔진이다. CPU의 빠른 응답 속도는 경량, 단일 추론 저지연 AI 작업에 적합하다.
NPU 아키텍처를 자세히 살펴보면 메테오 레이크를 통해 최초로 클라이언트 제품에 NPU 를 통합했다. 이 제품은 저전력, 고품질 및 새로운 PC 경험을 제공할 수 있는 아키텍처로 구성되어 있다. 해당 아키텍처는 과거 CPU 에서 제공하던 높은 품질 또는 효율성을 필요로 하는 작업 또는 클라이언트 컴퓨팅 효율성 부족으로 인해 클라우드에서 실행되는 작업에 어울린다.
호스트 인터페이스 및 장치 관리 부문에서 장치 관리 영역은 마이크로소프트(MS)에서 제공하는 새로운 드라이버 모델인 마이크로소프트 컴퓨트 드라이버 모델(MCDM)을 지원한다. 이는 메테오 레이크 NPU 가 보안을 중점으로 하면서 MCDM 을 최적의 방법으로 지원할 수 있도록 돕는다. 동시에, 메모리 관리 장치(MMU)는 다중 컨텍스트
격리를 제공하며 빠른 저전력 상태 전환을 위한 전원 및 작업 부하 스케줄링을 지원한다.
NPU 는 두 개의 신경 컴퓨팅 엔진으로 구성된 다중 엔진 아키텍처를 보유하고 있으며, 해당 두 엔진은 단일 작업에서 함께 작동하거나 독립적으로 자체 작업을 처리한다. 이 신경 컴퓨팅 엔진 내에는 두 개의 주요 컴퓨팅 요소로 구성되어 있다
데이터 이동을 최소화하고 일반 및 고성능 작업에 대한 고정 함수 연산을 가지고 있는 효율적인 컴퓨팅 핵심 드라이버다. 신경망 실행 과정에서 전력 절약 역할을 담당한다. 대부분의 연산은 추론 파이프라인에서 수행되며, 이는 표준 신경망 연산을 지원하는 고정 함수 하드웨어 파이프라인으로 구성된다. 해당 파이프라인은 곱셈 누산(MAC) 어레이, 활성화 함수 블록 및 데이터 변환 블록으로 구성된다.
AI를 위해 특별히 설계된 고도로 최적화된 매우 긴 명령어 워드/디지털 신호 프로세서(VLIW DSP)다. 스트리밍 하이브리드 아키텍처 벡터 엔진(SHAVE)은 추론 파이프라인 및 직접 메모리 액세스(DMA) 엔진과 함께 파이프라인화 될 수 있어, NPU 에서 병렬로 발생하는 이기종 컴퓨팅을 구현, 성능을 극대화할 수 있다.
이 밖에 DMA 엔진은 최대 효율성과 성능을 위해 데이터 이동을 최적해준다.
인텔은 이같은 AI 성능이 PC 사용자 경험을 변화시킬 것이라 예견했다. 메테오 레이크를 시작으로 대규모로 PC에 AI를 도입한다는 전략이다. 수억 대의 PC에 AI 도입된다면 거대한 x86 생태계는 다양한 소프트웨어 모델과 도구를 제공하겠다고 선언했다.
수능지문 속 링크 들어가니 '尹퇴진집회' 안내 …"도메인 구입 후 악용"
2024-11-15 11:26:46'최대 실적'에도 웃을 수 없는 케이뱅크… 내년 초 IPO 흥행엔 여전히 의문부호
2024-11-15 11:11:03한국화웨이, 韓 ICT 산업 발전 방향 담은 백서 발간
2024-11-15 11:10:42현장 방문객 1350명·온라인 실시간 조회수 20만회… 두나무 ‘업비트 D 컨퍼런스 2024’ 예상밖 흥행
2024-11-15 10:50:30가전⋅모바일⋅반도체⋅배터리까지…CES 2025 혁신상 휩쓴 '삼성⋅LG'
2024-11-15 10:25:24