[디지털데일리 고성현 기자] "2017년 1세대 에픽 프로세서 '나폴리'에서 시작한 서버용 프로세서 사업이 전세계 시장 점유율 0~2%을 기록했다. 그러다 클라우드와 미래 사업에 대한 신뢰에 힘입어 올해 34%를 차지할 것으로 예상된다."

파산 위기에 몰린 AMD를 기사회생시킨 리사 수 최고경영자(CEO)가 부임한 지 어느덧 10년. 서버 시장 점유율 0%에 수렴했던 회사가 어느새 20% 후반대의 점유율을 차지하면서 업계 최대 잠룡으로 자리매김했다. 독주 체제를 굳혀 온 인텔이 주춤한 가운데, 인공지능(AI) 데이터센터 공략과 젠 아키텍처 강화에 나선 AMD가 과거 '옵테론'으로 누렸던 영광을 누릴지 관심이 쏠린다.

AMD는 10일(현지시간) 미국 샌프란시스코 모스콘 센터에서 '어드밴싱 AI 2024' 행사를 개최하고 서버용 5세대 에픽(EPYC) 프로세서 '튜린(Turin)'을 내놓고 관련 시장 확대에 나섰다. 전작 대비 성능이 개선된 젠5·젠5c 아키텍처를 바탕으로 컴퓨팅·AI 연산 성능을 높인 것이 두드러진 특징이다.

이번 신제품은 TSMC 3·4나노미터(㎚) 공정으로 제작된다. 젠5 아키텍처는 최대 128개 코어·256개 스레드를 갖추며, 젠5C 아키텍처는 최대 192개 코어·384개 스레드로 구성될 예정이다. SP5 소켓은 유지되며 AVX-512 명령어를 최대 512 데이터패스까지 지원한다.

소비전력은 최소 8코어 155W에서 최대 192코어 500W이며 ▲메모리 12채널 DDR5-6400 지원 ▲소켓당 최대 6TB 메모리 인식 ▲PCI익스프레스(PCIe) 5.0 128레인에 암호화 지원 ▲CXL 2.0 규격 저장장치 호환 등을 갖췄다. 이러한 성능 향상에 따라 기업용 클라우드 환경의 사이클당 명령어 처리 횟수가 최대 17% 향상됐고, 고성능 컴퓨팅·AI 처리도 37% 높아졌다.

AI 연산 처리 면에서도 성능이 크게 향상됐다. 5세대 에픽 프로세서 9965 모델은 5세대 인텔 제온 8592+(64코어) 대비 XG부스트 머신러닝 속도가 3배, 엔드투엔드 AI 성능 및 유사성 검색이 3.8배, LLM 성능이 1.9배 늘었다. 아울러 엔비디아 H100과 연결해 활용할 경우에는 경쟁작 대비 GPU 추론 성능 20%, 학습 성능 15%가 앞섰다.

전날 사전 브리핑을 진행한 마두 랑가라잔(Madhu Rangarajan) 서버 제품 관리 담당 부사장은 "2017년 시작 당시 AMD가 서버 사업에서 사실상 0~2%의 시장 점유율을 기록했지만, 클라우드와 예비 비즈니스에 대한 신뢰에 힘입어 올해 중반에는 매출 점유율 34%을 기록할 것으로 예상된다"며 "AMD는 서버 로드맵 측면에서 매우 좋은 흐름을 유지하고 있으며, 이 로드맵을 올바르게 유지해나갈 계획"이라는 포부를 드러냈다.

10일 이날 기조연설을 진행한 리사 수 AMD CEO도 5세대 에픽 프로세서의 가능성에 힘을 실었다. 수 CEO는 "2017년에 출시된 에픽 프로세서는 최신 데이터센터를 위한 CPU로 자리 잡았다"며 "최근에는 최대 규모 서버를 비롯해 350개 이상의 에픽 플랫폼을 제공하고 있는 상황을 자랑스럽게 생각한다"고 강조했다.

◆ 실패→위기→기적적 반등 이뤄낸 지난 10년…'옵테론' 영광 되찾을까

AMD는 2000년대 초중반 x86의 64비트 확장 아키텍처인 x64 기반 서버 시장에서 K8 마이크로아키텍처를 채택한 '옵테론'이 성과를 내면서 훈풍을 탔다. 전체 서버 시장은 여전히 인텔이 우위를 유지했지만, x86의 한계가 가까워지면서 AMD를 찾는 기관·연구소들이 계속해서 늘어난 덕분이다.

그 기세는 2010년대에 접어들면서 점차 꺾이기 시작했다. 인텔이 기존 CPU 역량을 바탕으로 x64 기반 프로세서를 잇달아 내놨고, AMD가 K10 마이크로아키텍처 기반 프로세서 출시에서 지속된 이슈를 겪으며 리더십을 내준 탓이다. 이후 차세대 구조를 적용해 내놓은 '불도저 아키텍처'가 큰 실패를 겪으면서 파산 위기의 직전까지 몰리게 됐다.

그러던 2014년 리사 수 CEO가 부임하면서 상황이 조금씩 바뀌기 시작했다. 미래 사업이 될 것으로 기대했던 모바일 영역을 포기하고 고성능 컴퓨팅에 집중한 차세대 CPU 아키텍처 개발에 집중했고, K8 마이크로아키텍처를 개발한 짐 켈러가 이 프로젝트에 참여하면서 예상했던 것 대비 높은 수준의 CPU를 개발해낸 덕분이다. 이때 개발된 것이 현재 AMD의 PC·서버 CPU의 주력으로 자리잡은 '젠 아키텍처'다.

AMD는 젠 아키텍처를 기반으로 한 라이젠(Ryzen) 시리즈가 PC 시장에서 입지를 굳혀나갈 떄쯤, 동일한 아키텍처를 택한 에픽(EPYC) 1세대 프로세서 나폴리(Naples)를 출시하며 다시금 서버 시장에 출사표를 내놨다. 1세대 제품은 출시 이후 1년 뒤에도 2%의 점유율에 그쳐 힘을 쓰지 못하는 듯 했으나, 2세대 로마(Rome)·3세대 밀란(Milian)을 거치면서 조금씩 시장 내 입지를 다져갔다. 그러던 4세대 제노아(Zenoa)가 출시된 이후, 경쟁사 인텔의 차세대 제품 생산 난항 등이 겹치면서 일련의 성과를 냈다. 이러한 성과에 힘입어 AMD는 서버 CPU 시장에서 27%의 점유율을 확보할 수 있었다.

◆ 선택과 집중에서 AI 공세로…인텔과 전면전 눈앞

AMD의 서버 시장 내 입지 확대에도 인텔이 무너질 수 있다고 보는 시선은 그리 많지 않다. 여전히 탄탄한 인텔의 제온 프로세서의 입지가 단기간내 뒤바뀔 가능성이 높지 않아서다. 하지만 리사 수 CEO 부임 이후 10년이 위기의 AMD를 건져냈듯, 향후 10년이 빠르게 변하는 반도체 업계에 지각변동을 가져올 수 있다는 주장도 적지 않게 나오고 있다.

리사 수 CEO 부임 후 10년의 키워드가 선택과 집중이었다면, 앞으로의 10년의 키워드는 AI를 중심으로 한 확장이 될 가능성이 높아졌다. 젠 아키텍처 기반의 발전이 지속되고 있는 한편, AI가속기·네트워크·소프트웨어 생태계 판도를 적극적으로 넓히는 것이 기회가 될 수 있다는 관측이다.

AI를 목표로 잡은 AMD는 ▲2022년 자일링스·펜산도 시스템 ▲2023년 밉솔로지·노드.ai ▲2024년 ZT시스템 등을 인수하면서 AI·서버·SW 역량을 확충했다. 그 사이 엔비디아의 쿠다(CUDA)에 대항하기 위한 개방형 플랫폼 'ROCm'의 발전을 이룩해냈다.

또 데이터센터 네트워크 및 인터커넥트 표준 확립을 위해 인텔 등과 함께 울트라 이더넷 컨소시엄(UEC), 울트라 액셀러레이터 링크(UALink)에 참여하는 등 기반을 다지고 있다. 이와 함께 AI 리더십을 확보하려는 마이크로소프트, 메타 등 빅테크와 AI가속기 개발에 대한 협업을 잇는 중이다.

AMD는 이러한 AI 중심 전략을 바탕으로 5세대 에픽 프로세서에서 30% 이상의 점유율을 확보하겠다는 목표를 내놨다. 이처럼 AMD가 본격적으로 확장 전략을 내세워 경쟁자 추격에 나선 만큼, 젠 아키텍처가 이뤄낸 성과의 관성이 이어질지 관심이 쏠린다.

리사 수 AMD CEO는 이날 행사에서 "AI는 앞으로 10년 동안 수많은 새로운 경험을 가능케 하고, 컴퓨팅은 우리 삶의 필수 요소가 될 것이다. AMD의 목표는 엔드투엔드(End to End) AI 리더가 되는 것"이라며 "컴퓨팅과 AI의 한계를 뛰어넘기 위한 AMD의 여정은 이제 시작이다"라고 말했다.