많은 기업이 인공지능(AI)을 통해 경쟁 우위를 확보하려고 하지만, 기존 IT 인프라는 이를 충분히 뒷받침하지 못하고 있다. 퍼블릭 클라우드, 프라이빗 클라우드 및 온프레미스 데이터센터에 걸쳐 데이터가 분산되면서 데이터 사일로 문제가 발생하고 있으며, 이로 인해 AI 애플리케이션이 목표를 달성하는 데 필요한 실시간 데이터 액세스가 크게 제한되고 있다.

또한, 클라우드나 데이터센터에서 가장 적합한 컴퓨팅 플랫폼에 워크로드를 배치하지 않으면 AI 성과에 부정적인 영향을 미치는 비효율이 발생할 수 있다.

HPE가 시장조사업체 사피오 리서치(Sapio Research)에 의뢰해 한국을 포함한 14개국 2,000명 이상의 IT 리더를 대상으로 AI 여정 현황을 조사한 ‘AI 이점 설계(Architect an AI Advantage)’ 보고서에 따르면 많은 기업이 여전히 프라이빗 클라우드(43%)나 퍼블릭 클라우드(12%)만을 사용하고 있으며, 일부는 온프레미스 데이터센터만 운영하고 있어 워크로드를 다양한 환경에 분산하여 활용하지 못하고 있다.

다행히도 IT 리더들은 AI 성공의 핵심 요소 중 하나로 하이브리드 클라우드를 꼽았지만, 모든 하이브리드 클라우드가 문제를 해결하는 것은 아니다. 하이브리드 클라우드 역시 기존 아키텍처와 마찬가지로 데이터 사일로와 컴퓨팅 한계와 같은 문제를 초래할 수 있다. 이에 따라 업계 선도 기업들은 ‘하이브리드 설계(Hybrid by Design)’를 기반으로 한 모델을 도입하고 있다.

그렇다면 ‘하이브리드 설계’란 무엇일까? 이는 모든 IT 환경을 하나의 하이브리드 클라우드 플랫폼을 통해 통합적으로 관리하는 클라우드 운영 모델을 의미한다. AI 환경에서는 워크로드가 퍼블릭 클라우드, 프라이빗 클라우드 및 온프레미스 데이터센터에서 실행될 수 있기 때문에, 이러한 인프라를 통합하는 것이 성공을 위해 필수적인 성능, 확장성 및 유연성을 확보하는 데 중요한 역할을 한다.

하이브리드 설계 모델은 다양한 인프라를 표준화하고 자동화하며, 중앙 집중적으로 관리하여 퍼블릭 클라우드, 프라이빗 클라우드, 엣지 및 다양한 세대의 IT 환경 간 상호운용성을 촉진한다.

또한, IT 부서가 중앙에서 거버넌스와 보안 프로토콜을 적용할 수 있도록 지원한다. 하이브리드 설계를 통해 여러 인프라 환경을 관리하는 것이 간소화되면, IT 부서 직원들은 비용과 데이터를 효과적으로 통제할 수 있는 가시성을 확보할 수 있으며, AI 확장에 필요한 비즈니스 인사이트 확보, 혁신 가속화 및 지속가능성 개선 등 비즈니스 목표를 달성하는 데 필요한 기능을 제공한다.

하이브리드 설계 접근 방식은 혁신적인 기업에게 AI 이니셔티브를 적절히 지원하는 데 있어 여러 가지 중요한 혜택을 제공한다.

▲데이터 통합: 강력한 하이브리드 클라우드 솔루션은 데이터를 위한 신뢰할 수 있는 단일 공급원(Single Source of Truth, SSOT)을 구축할 수 있다. 이를 위해서는 퍼블릭 클라우드, 프라이빗 클라우드, 온프레미스 데이터 센터 등 어디에 위치하든 데이터 풀을 통합된 소스로 구동할 수 있도록 지원하는 하이브리드 데이터 패브릭이 필요하다. HPE 설문조사에 따르면, IT 리더의 40% 미만이 중앙 집중식 비즈니스 인텔리전스로 공유 데이터 모델을 구축한 것으로 나타났으며, 이는 AI 성공을 위해 데이터 사일로를 제거하는 데 필수적이다.

▲최적화된 워크로드 배치: 데이터는 어디에든 저장될 수 있으며, 적절한 하이브리드 클라우드를 통해 액세스할 수 있다. 여기에는 AI 추론에 필요한 저지연을 지원하기 위해 엣지에서 데이터를 실시간으로 처리하는 기능이 포함된다. 따라서 지연 시간을 최소화하는 고성능 네트워킹 인프라가 하이브리드 설계 전략의 핵심 요소라고 할 수 있다.

▲향상된 데이터 제어: 이는 기업의 다세대 온프레미스 및 프라이빗 클라우드 운영을 퍼블릭 클라우드와 통합하여 동적 보안 관리를 가능하도록 지원한다. 하이브리드 클라우드를 배포할 때 데이터 보안을 확보하는 것이 중요하므로, 해당 데이터 보호 모델은 다양한 위치에 저장된 데이터에 대해 서로 다른 보안 수준과 접근 방식을 적용하는 데 중점을 둔다.

▲비용 관리: AI 도입 초기에는 퍼블릭 클라우드가 비용 효율적인 선택이 될 수 있지만, 대규모 컴퓨팅 집약적인 AI 이니셔티브에 필요한 용량은 퍼블릭 클라우드에 비해 많은 비용이 들고 지연시간이 길어질 수 있다. 하이브리드 설계 모델을 도입하면 퍼블릭 클라우드, 프라이빗 클라우드 및 데이터센터 간에 비용과 성능을 균형 있게 조절할 수 있는 다양한 환경을 제공받을 수 있으며, 이를 통해 컴퓨팅 용량 확장도 가능해진다.

하이브리드 설계 방식을 채택하여 AI를 효과적으로 지원하려면, 먼저 현재 인프라를 비즈니스 요구에 맞춰 평가하고 전략적인 계획을 수립하는 것이 중요하다. 이를 위해 AI와 관련된 주요 사항들을 살펴봐야 한다. 우선 AI에 대한 비즈니스 우선순위는 무엇인지, 비즈니스 목표 달성을 위해 어떤 AI 애플리케이션과 워크로드가 필요하며 어디에서 운영되어야 하는지, 그리고 AI의 생애 주기는 어디서 어떻게 관리할 것인지에 대한 해답을 찾아야 한다.

이러한 해답을 찾기 위해서는, 경험이 풍부한 기술 서비스 공급업체의 지원이 필요하다. 하이브리드 설계 환경을 구축하고 관리하는 전문성을 갖춘 공급업체는 기업의 요구사항을 정확히 파악하여 최적의 솔루션을 구현하는 데 큰 도움을 줄 수 있다.

하이브리드 설계가 성공적으로 구현되려면 퍼블릭 클라우드, 프라이빗 클라우드 및 온프레미스 환경이 각각 적절한 시기와 장소에서 활용되어야 한다. 워크로드가 적절한 시점과 장소에서, 최적의 컴퓨팅 및 저장소 지원을 받으며 운영된다면, 기업은 AI의 막대한 잠재력을 온전히 실현할 수 있을 것이다.

강인철 부사장, 한국HPE 아루바 네트워킹 총괄

<기고와 칼럼은 본지 편집방향과 무관합니다>