AI 대전환의 시대, 쏟아지는 이슈와 키워드 중 '꼭 알아야 할 것'과 '알아두면 좋은' 것을 구분하기란 쉽지 않습니다. 뜬구름 잡는 이야기도 많습니다. [real! AI Pro]는 이 고민을 현업 전문가들이 직접 선정한 주제와 인사이트를 담아 명쾌하게 정리해드립니다. <편집자주>

[디지털데일리 이건한 기자] 요즘 모든 산업의 공통 화두를 꼽자면, 단연 인공지능 전환, 즉 'AX(AI Transformation)'입니다. 오늘날 AX는 지난 코로나19 대유행 시기, 기업의 아날로그 운영 시스템을 클라우드 중심으로 교체하고, 원격근무 체계를 도입했던 디지털 전환(DX)의 확장판과 같습니다. 단순 디지털화를 넘어 AI를 통한 매출과 생산성의 가시적인 향상을 노리는 단계에 이르렀죠.

그러나 AX를 바라보는 대중의 시선은 그리 곱지 않습니다. 심지어, 무관심에 가까워 보일 때도 있습니다. 그간 많은 기업이 AX 혁신을 부르짖었지만, 정작 결과물은 그리 눈에 띄지 않았던 까닭입니다. 심지어 AX 기업에서 일하는 직원도, 외부 투자자도 AI 도입으로 무엇이 얼마나 편해졌고 매출은 얼마나 늘었는지 체감하기 힘든 경우가 많다고 합니다. 오히려 AI 툴 활용이 강제돼 프로세스는 더욱 복잡해지고, 관련 투자 비용만 증가한 것 아니냐는 비판적 시선마저 따릅니다.

그럼 AX란 결국 이전의 수많은 기업 마케팅 용어처럼 '빛 좋은 개살구'나 '빈 수레가 요란한' 유행인 걸까요? 그렇지 않습니다. 긍정적 의미의 AX는 실재하며, AX에 실패하는 기업의 공통점은 AX에 대한 오해를 갖고 접근한 경우가 대부분이었다는 것이 진짜 AX 전문가들의 판단입니다.

따라서 이번 기사에서는 AX 성공 전략 수립을 위한 실전 가이드라인과 AS 전략을 소개해 드립니다. 이와 관련해 삼정KPMG AI센터 이동근 전무의 노하우를 알차게 압축했는데요. AX의 개념과 목적부터 기업이 흔히 하는 실수, 피해야 할 AI 컨설턴트 유형까지 빠르게 정리해드립니다.

이동근 전무는 삼정KPMG에서 디지털 본부와 AI 센터를 리드하고 있습니다. 특히 AI 도입 전략 수립부터 AI 서비스 구축 및 AI 운영 거버넌스 수립을 통한 기업의 가치 창출 부문에서는 국내 유수의 전문가로 꼽힙니다. 이동근 전무가 리드하는 KPMG AI 센터 또한 국내외 1000여개 기업의 AX 분석 사례 및 컨설팅 경험을 바탕으로 200여명의 전문 컨설턴트가 근무 중인 국내 최대 규모의 AI 센터입니다.

안녕하세요, 이동근입니다. 요즘 기업이 AX에 주목해야 할 이유는 간단합니다. 무엇보다 단순 '학습'에 그치지 않고 '생성'까지 가능해진 지금의 AI는 방대한 데이터에서 인간이 포착하기 어려운 인사이트를 도출하고, 이를 기반으로 끊임없이 새로운 결과물을 만들어낼 수 있습니다.

또한 이렇게 생성된 양질의 결과 데이터를 AI가 다시 학습함으로써 점차 더 좋은 결과물을 만들어 낼 수 있는데요. 이 가운데 기업 내 시스템 자동화는 물론이고, 의사결정 최적화까지 AI의 도움을 기대할 수 있게 됐다는 점이 중요한 포인트입니다. 이런 시대에는 '아무것도 하지 않는 것이 가장 큰 리스크'란 유명 투자자의 말처럼, 향후 모든 기업의 비즈니스는 AX를 잘하는 곳과 그렇지 않은 곳의 생산성과 전략의 품질 차이가 점차 극명하게 대비될 것으로 보입니다.

처음 AX를 시도하는 기업들의 접근 전략은 대개 비슷합니다. 리스크는 최소화하면서 빠른 성과를 얻고자, 소규모 파일럿 프로젝트부터 점진적으로 확장하는 '스몰 석세스(Small Success)' 방식을 주로 채택하죠. 구체적으론 AI 즉시 가능 영역을 찾아낸 뒤, 기술검증(PoC)을 수행하기도 합니다. 이런 방법은 초기에 가시적인 성과를 내는 데 효과적입니다. 다만, 전사적 규모로 확장할 때는 어려움을 만들기도 합니다. 특히 모든 AX의 근간은 사용 가능한 '데이터 인프라' 구축인데, 이를 간과하고 PoC를 통해 일부 영역에서만 효과적인 프로세스를 만드는 경우가 그렇습니다.

이 경우 개별 프로젝트나 부서 단위 성공을 조직 전체의 변화로 연결하는 AX 최종 목표에 도달하기 어려워집니다. 또한 AI에 필요한 데이터 인프라와 AI 도입의 중요성을 전사가 공감하고 지원하는 문화를 만드는 것도 대단히 중요한데요. 이 또한 당장 손에 잡히는 소규모 AX 프로젝트 결과물에만 눈이 팔려 간과되는 경우들을 찾아볼 수 있습니다.

성공하는 AX, 실패하는 AX

이제 보다 구체적으로, 실패한 AX 사례의 공통점들을 살펴볼까요? 첫째, 명확한 목표 설정 없이 AI를 도입한 경우입니다. 둘째, 너무 큰 기대입니다. 셋째, 조직 내 저항과 부서 간 불협화음입니다. 이 세 가지를 다시 하나의 공통점으로 묶으면, 'AI에 대한 이해 부족'으로 축약됩니다.

AI가 무엇이든 해결해 줄 수 있다는 잘못된 믿음으로, 남들이 다 하니까 우리도 한다는 안일한 생각으로 많은 시간과 물적·인적 자원이 투입되는 AX 도전에 나섰다가 조직 불화란 최악의 결과물만 낳을 수 있다는 이야기인데요. AX는 그보다 현실적인 눈으로 바라보고 접근해야 합니다.

특히 가장 먼저 AX에 적합한 '데이터'가 충분히 확보되었는지 확인해야 합니다. 다시 강조하지만 모든 AI는 학습된 데이터를 바탕으로 구동됩니다. 좋은 데이터를 넣어야 최상의 성능을 내며, 나쁜 데이터를 넣으면 흔히 말하는 AI의 헛소리, 즉 '환각' 현상이 더욱 두드러지게 되니까요.

AX 도입에 따른 기대감도 데이터 준비 수준에 따라 달라져야 합니다. 실제로 개인이 챗GPT를 써보면 마치 기업의 많은 업무를 챗GPT로 손쉽게 자동화할 수 있을 것으로 생각됩니다.

실상은 다릅니다. 실제 기업의 업무처리 프로세스는 생각보다 복잡하며, 해당 업무에 사용되는 용어와 프로세스 데이터가 AI가 학습되지 않으면 실무 활용은 어렵습니다. 이 문제는 추후 GTP-5, 6 같은 초대형 AI 모델이 나와도 변할 수 없는 근본적 한계임을 명심하길 바랍니다.

그럼 데이터만 충분하면 끝일까요? 아니요. 전사적 AX를 바라본다면 전사 직원들의 지지도 반드시 쌍을 이뤄야 합니다. 처음에 누가 AX를 기획하고 주도했든, 그 변화된 시스템을 받아들이고 사용하는 건 결국 소수의 주도자를 제외한 대부분의 직원이기 때문입니다.

만약 그들이 AI 도입의 필요성을 공감하지 못한 채, 무작정 AX 프로젝트를 추진한다면 결국 시스템이 구축되더라도 실사용자들은 강하게 저항합니다. AI는 많은 비전문가들에게 '흥미로운 것'보단 '새로 익혀야 할 것'이나 익숙한 프로세스를 바꾸는 방해물로 여겨질 가능성이 높기 때문입니다. 또한 이 경우 기껏 도입한 AI 시스템 활용도가 떨어지고, 이는 앞서 언급한 '양질의 데이터 생산 및 재생성의 선순환' 효과까지 크게 감소시킬 수 있는 점을 기억하길 바랍니다.

AX는 '완료'가 없는 여정

자, 데이터와 조직의 지지라는 큰 준비를 마쳤다고 가정합시다. 이후는 순항일까요? 그럴 수도 있고, 아닐 수도 있습니다. 실제로 AX 추진 초반에 순조로웠던 프로젝트가 중후반으로 넘어갈수록 급격히 힘을 잃고 좌초하는 경우들도 만나보게 됩니다.

첫째, AX의 확장성 고려가 부족했던 경우입니다. 앞서 말했듯 많은 기업이 스몰 석세스 형태로 AX를 시작합니다. 이 말은 반대로, 작은 프로젝트 단위가 아니라 가급적 최종 고지인 전사 시스템 도입을 목표로 둔 AI 시스템 아키텍처의 초기 설계가 중요하단 의미입니다.

예컨대 조그만 놀이터 규모로 작은 시소와 그네 하나를 놓고 시작하더라도, 종반에는 이들 시소와 그네를 중심으로 미끄럼틀, 철봉, 강당, 축구장을 포함한 운동장을 그려 나가도 문제가 없는 AI 구조를 만들어야 한다는 이야기인데요. 기본적인 AI 추천 시스템만 하더라도 사용자 수와 데이터량이 급증할수록 시스템 성능이 급격히 저하됩니다. 이는 대기업 AI 서비스들도 흔히 겪는 문제인데, 처음부터 확장성을 염두에 두고 최적화된 설계를 할수록 문제 발생 시 해결 속도도 더욱 빠른 편입니다.

둘째, 지속적인 AI 학습과 개선이 부재한 경우입니다. AI는 정적인 솔루션이 아니라 끊임없는 변화에 적응하는 동적인 시스템임을 기억하세요. 그러나 기존 기업 IT 시스템처럼 초기 구현 후 방치할 경우 AI의 강점인 '재학습을 통한 성능 강화' 효과를 기대하기 어려워집니다. 특히 새로운 데이터와 트렌드를 AI에 반영하는 유지보수가 이뤄지지 않으면 변화무쌍한 현업에서의 활용성 역시 급감하게 될 것입니다. 이는 곧 AX란 일회성 프로젝트가 아닌 지속적인 여정임을 보여줍니다.

정리하면 성공적이고 장기적인 AX 구축에 필요한 요소는 다음과 같습니다. ▲명확한 AX 목표 수립 ▲목표에 부합한 데이터 준비 ▲전사적 지지 ▲확장성을 고려한 설계 ▲지속적인 모니터링과 개선이 물 흐르듯 이어져야 한다는 이야기인데요.

AX, 이미 시작했다면…늦지 않았다

마지막으로 AX-AS(After-Service)에 대한 이야기를 해보겠습니다. 앞단에 '아무것도 하지 않는 것이 가장 큰 리스크'란 말을 인용했죠. 비록 지금 여러분 회사의 AX 프로젝트가 다소 삐걱거리는 중일지라도, 그건 적어도 최악의 리스크는 피했다는 의미입니다. 의지만 있다면 충분히 'AS'도 가능하다는 이야기고요. AS 전략과 관련해선 반복되는 이야기를 최대한 피하고, 핵심만 말씀드리겠습니다.

첫째, 조직 내 AI 친화적 문화 조성에 지금부터라도 힘을 쏟으세요. 전사적 AI 거버넌스 수립, AI 리터러시(문법, 이해) 교육 프로그램 운영, AI 활용 우수사례 공유, AI 관련 성과 달성 시 적절한 보상체계 도입이 효과적입니다.

둘째, AX를 통한 비즈니스 목표를 구체화하세요. 실질적으로 각사의 비즈니스 가치 창출과 연계된 목표를 수립하란 의미입니다. 그다음 해당 목표에 적합한 기술를 선별하고, 양질의 데이터를 확보한 뒤 체계적으로 관리할 수 있는 시스템을 구축해야 합니다. 이는 데이터 품질 개선이나 효과적인 통합, 데이터 거버넌스 체계 구축 등을 포함합니다.

셋째, 실패로부터 배우세요. 대신 실패를 빠르게 인식하고 전략을 신속히 수정할 수 있도록 유연성을 갖춰야 합니다. 이를 위해 AI 시스템의 지속적인 성능 모니터링과 평가 체계 구축이 필수적입니다. 이는 또한 애자일(Agile) 방법론이라 부르는, 작은 단위의 작업 계획을 세우고 일단 만든 후 신속하게 수정하며 개선하는 방식이 AX 프로젝트에서도 효과적이란 말이기도 합니다.

'사짜' AX 컨설턴트를 구분하는 방법

끝으로, AX 추진을 앞두고 요즘 많은 기업들이 전문 AI 컨설턴트들의 도움을 받아 중장기 플랜을 구축하곤 하는데요. 첫 단추가 중요한 만큼, 이때 반드시 피해야 할 컨설턴트 유형도 팁으로 소개해 드립니다. 은어로는 '사짜(전문성이 없는데 전문가 행세하는 사기꾼)' 구별법이라고 할 수 있겠네요.

먼저 AI 기술만 강조하는 '기술 중심 접근자'를 조심하세요. 이들은 최신 기술의 성능만 강조하며 시야를 흐립니다. 이들은 대체로 AI 기술과 비즈니스 목표와의 연계는 소홀히 하는 경우가 많습니다. 앞서 말했듯 이 경우, 추후 AX 투자에 따른 효용을 실사용자나 기업 운영 측면에서 얻기 어렵기 때문에 처음부터 재설계가 필요한 상황에 이를 수 있습니다.

다음은 모든 기업에 같은 방식을 적용하는 '획일적 접근자'도 조심하세요. AI는 결코 기성품이 될 수 없습니다. 각 기업의 특성은 모두 다르며, 우리 프로세스에 최적화된 데이터 준비 과정 및 도입 순서도 모두 다른 것이 정상입니다. 타 기업의 컨설팅 예시자료 등을 요구해 보고, 그에 맞춰 우리 기업에는 얼마나 맞춤형 접근을 하고 있는지 반드시 검토해 보세요.

마지막으로 '과대 약속자'를 경계해야 합니다. 다시 말하지만 AX는 장기적 여정이며 종료가 없습니다. 그런데 프로젝트를 끝내기 위한 단기 성과만 강조하거나, 조직 변화 관리의 중요성을 무시하는 접근법을 취한다면 걸러야 합니다. 그들은 때로 현실적으로 도달하기 어려운 성과를 약속해 기대와 현실의 괴리를 만들어, 프로젝트가 좌초하는 원인을 제공하기도 합니다.

결국, 성공적인 AX를 위해서는 기술과 비즈니스를 균형 있게 이해하고, 각 기업의 특성에 맞는 맞춤형 전략을 제시하며, 장기적 관점에서 조직의 변화까지 고려하는 컨설턴트를 선택하는 것이 중요합니다. 이러한 접근은 AI가 단순한 기술 도입이 아닌, 기업의 근본적인 변화와 혁신을 이끄는 도구로 활용될 수 있게 해줄 것입니다.

삼정KPMG AI 센터는...

한편, 회계법인으로 유명한 저희 삼정KPMG의 AI센터는 기업들의 AI 도입을 효과적으로 지원하고자 설립된 조직입니다. 내부적으로도 회계감사, 세무, 컨설팅, M&A 등 기존 서비스를 AI로 혁신하는 데 주력하고 있죠. 특히 컨설팅 부문은 KPMG가 자체 구축한 'Advisory GPT'를 활용해 고객 정보의 보안을 유지하면서도 효과적인 컨설팅 업무가 이뤄지고 있습니다. 또한 그간 축적된 데이터와 기술을 통합한 AI 플랫폼을 구축해 사내 업무에 활용 중이며, 조만간 대고객 AI 서비스를 제공할 예정입니다. 앞으로는 누가 뭐래도 AI 활용 여부와 숙련도가 기업의 경쟁력을 좌우할 것이 확실합니다. 그만큼 삼정KPMG AI 센터도 기업에 보다 실질적인 가치를 제공하는 AI 파트너이자 허브로서 국내 AI 산업 발전에 기여하고자 합니다.