[디지털데일리 이상일기자] 한국IBM이 13일 여의도 본사에서 기자간담회를 개최하고 자사의 혁신적인 AI 전략과 최근 하시코프(HashiCorp) 인수 등에 따른 전략을 밝혔다.

이번 발표에는 한국IBM 이은주 사장이 취임후 처음으로 공식 기자간담회를 통해 IBM이 하이브리드 클라우드와 AI를 중심으로 한 포트폴리오의 품질과 성과를 강조하는 자리가 마련됐다.

이은주 사장은 “IBM은 하이브리드 클라우드와 AI 기술을 통해 기업의 디지털 전환을 지원하며, 자동화 솔루션을 통해 비용 절감과 운영 효율성을 높이고 있다”며 “기업용 솔루션 전문 기업인 IBM은 고객들에게 AI 기술의 혜택을 전달하기 위해 ‘개방성, 신뢰성, 맞춤형, 역량 강화’라는 차별화된 접근 방식을 취하고 있다”고 말했다.

또한, 이은주 사장은 “IBM은 업계에서 가장 완벽한 자동화 솔루션을 제공하고 있다”며, “IBM은 통합가시성, 네트워크, 고객사의 기술 관련 비용, 인사이트 확보 자동화의 모든 측면을 고려한 포트폴리오를 보유하고 있다”고 강조했다.

예를 들어, 기업은 인스타나(Instana)를 통해 퍼블릭, 프라이빗 클라우드, 엣지 디바이스 등 다양한 환경에서의 운영 상태에 대한 자동화된 통합가시성을 가질 수 있다. 앱티오(Apptio)를 사용하면 기술 투자에 대한 지출과 여기에서 창출된 비즈니스 가치를 명확하게 파악해 데이터에 기반한 투자 결정을 내리고, 변화하는 시장 상황에 신속하게 대응할 수 있다.

자원 최적화 관리 솔루션인 터보노믹(Turbonomic)을 활용하면 자원을 사용하지 않을 시간대에는 중지하거나 과다 할당된 경우 자원을 줄여 비용 절감할 수 있는 기회를 찾아낸다. 특히 최근 브로드컴의 VM웨어 인수로 가상머신에 대한 비용증가가 우려되고 있는 상황에서 터보노믹이 대안이 될 수 있다는 것이 이은주 사장의 설명이다.

특히, 이러한 기술은 최근 AI 플랫폼이나 자체 거대언어모델(LLM) 구축 시 가장 큰 문제가 되고 있는 GPU 자원 최적화에도 적용이 가능하여, 기업의 하드웨어와 소프트웨어 인프라 비용 및 GPU 비용 절감에도 도움을 줄 수 있다.

이러한 제품에 더해 최근 IBM은 인프라 수명주기 관리와 보안 수명주기 관리로 멀티 클라우드 및 하이브리드 환경을 자동화하는 테라폼(Terraform), 볼트(Vault) 등의 제품을 제공하는 하시코프(HashiCorp)를 인수할 계획이라고 발표했다. 하시코프를 통해 고객은 멀티 클라우드 및 하이브리드 클라우드 환경으로 쉽게 전환하고 이를 운영할 수 있다.

이은주 사장은 곧 출시될 새로운 생성형 AI 기반 툴인 'IBM 콘서트(Concert)'도 소개했다. 왓슨x의 AI를 기반으로 하는 IBM 콘서트는 고객의 애플리케이션 포트폴리오 전반에 걸쳐 문제를 식별, 예측, 해결책을 제시하는 생성형 AI 기반 통찰력을 제공한다.

이 새로운 도구는 고객의 기존 시스템에 통합되어 생성형 AI를 사용해 클라우드 인프라, 소스 리포지토리, CI/CD 파이프라인 및 기타 기존 애플리케이션 관리 솔루션의 데이터와 연결하고 연결된 애플리케이션에 대한 자세한 시각정보를 제공한다.

이은주 사장은 "IBM은 특정 서비스를 상품화하기 전에 생태계 전반을 다 본다. 한국 기업은 기술에 민감하기 때문에 빨리 도입 최신기술을 도입하려 하는 경향이 강한데 결과적으로 생각보다 비용이 많이 지출되는 경향이 높다. 때문에 유스케이스 확보가 중요하다. AI의 경우 잘못 활용하게 되면 다양한 도전과제가 나올텐데 IBM은 이를 모두 고려해 일종의 안전장치를 만들어 고객에게 제공하려 한다"고 설명했다.

한편, 이번 행사에는 IBM 리서치의 케이트 소울(Kate Soule) 생성형 AI 리서치 프로그램 디렉터가 참가, 최근 IBM에서 발표한 왓슨x 관련 정책, 기술과 그 의미에 대해 설명했다.

최근 IBM은 언어 및 코드 그래니트(Granite) AI 모델 제품군을 오픈소스로 배포했다. 이로써 고객, 개발자, 글로벌 전문가들은 엔터프라이즈 환경에서 AI가 달성할 수 있는 한계를 확장할 수 있게 됐다.

케이트 소울 디렉터는 "IBM은 생성형 AI를 위한 자체 훈련 데이터를 신중하게 선별한다. 법률, 정책, 프라이버시, 윤리 관련 팀들과 협력해 신뢰할 수 있는 훈련 데이터 수집 전략과 파이프라인을 구축했다. 이는 IBM과 고객이 이 모델들을 생산 환경에 배포할 때 확신을 가질 수 있게 한다"고 강조했다.

케이트 디렉터에 따르면 그래니트(Granite) 기초 모델 13B(130억 매개변수)를 훈련할 때, 수집된 데이터의 3분의 2 이상을 제거해야 했다는 설명이다. 이는 데이터가 IBM의 관리 기준을 충족하도록 하기 위함이었으며, 사용이 허가된 데이터만 모델에 포함되도록 보장했다는 설명이다.

IBM은 또, 합성 데이터를 사용해 생성형 AI의 안전성을 개선하는 새로운 기술을 발명했다. 이를 통해 엔터프라이즈 환경에서 모델을 배포할 때 중요한 다양한 위험과 피해로부터 모델을 보호할 수 있었다는 것이다.

현재 허깅페이스와 깃허브에서 아파치 2.0 라이선스로 제공되는 오픈 소스 그래니트 모델은 개발 프로세스, 품질, 투명성, 효율성 면에서 매우 뛰어나다는 설명이다. 그래니트 코드 모델은 30억 개~340억 개의 매개변수 범위에서 기본형과 명령어 추종형 모델들로 제공되며 복잡한 애플리케이션 현대화, 코드 생성, 버그 수정, 코드 설명 및 문서화, 리포지토리 유지 관리 등의 작업에 적합하다.

이와 함께 케이트 소울 디렉터는 LLM 성능을 높이기 위해 IBM과 레드햇이 함께 개발한 인스트럭트랩(InstructLab)을 소개했다.

인스트럭트랩 방법론은 수십 년 동안 오픈 소스에서 소프트웨어 개발이 진행되어 온 것처럼 지속적이고 점진적 기여를 통해 기본 모델을 지속적으로 발전시킬 수 있도록 한다. 기업의 개발자는 인스트럭트랩을 통해 자사의 데이터로 해당 비즈니스 도메인이나 산업에 특화된 모델을 구축할 수 있으므로 AI의 직접적인 가치를 확인할 수 있다.

IBM은 이 접근법을 왓슨x.ai 및 새로운 레드햇 엔터프라이즈 리눅스 AI(RHEL AI) 솔루션에 통합함으로써 고객에게 추가적인 가치를 제공하는데 이러한 오픈 소스 기여 모델을 활용할 계획이다.