[디지털데일리 이상일기자] 한국IBM이 기업의 생성형 AI에 기반한 비즈니스 혁신을 돕기 위해 기업이 AI 생애주기 전반에 걸쳐 위험을 완화하고 규정 준수를 보장하는 데 필요한 거버넌스 도구를 제공하는 ‘왓슨x.거버넌스’를 선보였다.

지난 한해 국내 기업들은 생성형 AI와 거대언어모델(LLM)에 기반한 자사 업무와 대외 서비스에 대한 AI 혁신을 꾀해왔다. 하지만 AI 활용에 있어 고질적으로 등장하는 환각오류, 규정준수, 저작권 등의 문제가 지속적으로 제기돼왔다.

한국IBM은 ‘왓슨x.거버넌스’를 통해 기업이 AI에 대한 초기 개념 증명을 넘어 실제 배포로 나아갈 수 있도록 지원한다는 계획이다.

한국IBM(사장 이은주)은 14일 여의도 본사에서 IBM ‘왓슨x.거버넌스’ 출시 기자간담회를 개최하고, 기업이 AI를 비즈니스에서 활용할 때, 안전하고, 투명하게, 규정과 정책을 준수할 수 있도록 지원한다고 밝혔다.

IBM에 따르면 많은 기업들이 거대언어모델(LLM)을 넘어 다양한 생성형 AI와 파운데이션 모델을 비즈니스에 적용하는 것을 검토 중이다. 그러나, 환각(hallucination), 편향성, 오류, 지적재산권침해, 민감정보 유출 등 비즈니스에 엄청난 손실을 끼칠 수 있는 위험 요소로 인해 AI의 비즈니스 활용이 여전히 쉽지 않은 것으로 나타났다.

김현정 한국IBM 컨설팅 대표는 “AI가 투자대비 효용을 이끌어내기 어려운 기술이다. 기존에 AI의 ROI가 1% 내외가 되지 않는다. 하지만 생성형 AI가 나온 이후 AI는 평균적 ROI의 2배 이상의 가치를 이끌어내고 있다. 멀티모달 AI에 대한 고민이 시작됐고 언어, 텍스트, 영상, 소리를 비롯해 위치정보, 센서정보 등 그동안 잠재력이 구현되지 못했던 다양한 데이터를 기반으로 생성형 AI를 테스트해보는 것이 내년에 꽃을 피울 것으로 기대하고 있다”고 기대감을 드러냈다.

다만 AI에 대한 활용도 우려되고 있다. ▲자사 데이터 및 기밀 유출, 데이터 품질 문제 ▲AI 모델에 대한 신뢰, 편향성, 투명성, 환각 문제 ▲유럽 및 북미를 시작으로 한국 정부까지 확대되고 있는 AI의 안전성과 신뢰성에 대한 법제화 및 기업에 대한 징벌적 규정 구체화 등 세 가지를 AI를 도입하고 확장하는데 있어 대표적인 도전과제로 꼽히고 있다.

김현정 한국IBM 컨설팅 대표는 “생성형 AI 기술은 급속도로 발전하고 있으나, AI 위험 요소들도 점점 커지고 있다”며, “기업들이 이를 극복하고 성공적으로 AI를 비즈니스에서 활용하기 위해 AI를 위한 데이터, AI모델 그리고, AI 도입 및 확장 과정에서 신뢰성을 확보하는 'AI 거버넌스'에 대한 고려가 AI 도입 검토 시 처음부터 고려되어야 한다”고 말했다.

이어진 세션에서 이지은 한국IBM 최고기술책임자(CTO) 전무는 기업들이 AI 위험 요소를 줄이고, AI 거버넌스를 수립할 수 있도록 지원하는 IBM 왓슨x.거버넌스(watsonx.governance)와 관련한 기술을 소개했다.

이지은 전무는 “AI거버넌스는 ‘안전장치’다. AI를 연구하고 윤리적으로 유지되도록 보장하는 것으로 프레임워크, 규칙, 스탠다드를 만들기 위해선 거버넌스 플랫폼이 필요하다”고 설명했다.

IBM 왓슨x.거버넌스는 조직이 AI 위험 요소를 관리하고 AI 관련 규정을 준수하는 데 필요한 솔루션을 제공하는 툴킷으로 AI 및 데이터 플랫폼인 왓슨x. 플랫폼의 요소 중 하나다. 특히 왓슨x.거버넌스는 설명 가능성, 공정성, 견고성, 투명성, 개인정보 보호를 토대로 마련되어 기업이 AI를 도입할 때 가장 고민하는 부분인 보안과 신뢰성 등에 대한 해결책을 제공할 수 있다.

특히, 이지은 전무는 IBM 왓슨x.거버넌스는 ▲AI생애주기 거버넌스 ▲AI 위험 요소 관리 ▲AI 규제 준수 등 세가지 부문에 대한 기술을 제공해 기업이 신뢰할 수 있는 ▲AI를 운영할 수 있도록 지원한다고 밝혔다.

이지은 전무는 “모델의 정보가 무엇인지 메타데이터를 관리하고 사용자들이 LLM을 활용하기 위해 어떤 프롬프트를 사용했는지 등을 확인한다. 기업이 방대한 오픈소스 LLM 모델을 활용하는 현실을 반영해 내부적으로 이러한 모델들이 통제가 될 수 있도록 위험 관리를 하게 된다”고 설명했다.

IBM 왓슨x.거버넌스에서 제공하는 Al 생애주기 거버넌스는 IBM, 오픈 소스 커뮤니티 및 기타 모델 제공업체의 AI모델을 관리, 모니터링 및 통제하며 Al 위험 요소 관리는 공정성, 편함성, 오류 및 새로운 LLM 매트릭스를 모니터링해 위험을 사전에 감지하고 완화한다.

규제 준수를 위해 AI를 관리해 내부 정책, 업계 표준을 준수하고 전 세계의 향후 규제 및 정책에 대비할 수 있도록 지원한다.

이지은 전무는 “왓슨x.거버년스는 다양한 LLM과 머신러닝 모델을 배포하고 관리하는 데 어려움을 겪고 있는 기업을 위한 원스톱 솔루션으로, 기업이 여러 가지 AI 모델에 대한 거버넌스 프로세스를 자동화하고 모니터링하며 시정 조치를 취하는 데 필요한 도구를 가시성과 함께 제공한다”고 밝혔다. 이어 “한국을 포함한 각국 정부에서 시 거버넌스에 대한 규제가 증가하고 있는 상황에서 신뢰성과 투명성을 높일 수 있도록 돕는 왓슨x.거버넌스의 역량은 그 어느 때보다 기업에게 더욱 필수적인 요소로 자리잡게 될 것”이라고 강조했다.

현재 왓슨 x.거버넌스는 한국을 포함한 전 세계에서 정식 버전(GA)을 사용할 수 있다.