직장 내 AI 활용이 보편화되며 AI는 반복적인 업무를 자동화하거나 고객을 위한 제품 추천, 기획안 아이디어 제시 등 업무 효율을 향상시키며 새로운 비즈니스 기회를 가져다주었다. 그러나 AI가 생성하는 콘텐츠에 대한 정확도, 보안, 환각 현상 등 여전히 풀어야 할 문제가 남아 있는 지금, ‘AI를 신뢰할 수 있는가’란 질문에는 선뜻 대답하기 어렵다.

최근 세일즈포스의 조사에 따르면, AI를 업무에 활용하고 있는 직장인 중 54%는 AI 모델 학습에 사용된 데이터를 신뢰할 수 없다고 응답했다. 이 중 약 75%는 AI가 생성하는 콘텐츠에 유용한 정보가 부족하다고 답했으며, 68%는 AI 도입을 주저하고 있는 것으로 나타났다.

AI에 대한 신뢰가 크지 않은 상태에서, 이 새로운 기술이 더욱더 성장하기 전에 통제권을 강화해야 한다는 목소리도 존재한다. 실제로 전 세계 근로자 중 63%는 AI 기술을 신뢰하기 위해서는 사람의 관리 감독이 필요하다고 응답했다. 생성형 AI가 대중화되고 있지만 AI의 위험성과 부작용에 대한 대응은 미흡한 상황이라 기업 내에서 AI를 영리적인 목적으로 활용할 때 사람이 체계적으로 관리 및 통제할 수 영역이 확장되어야 한다는 의미다.

그렇다면 AI시대, 기업이 신뢰할 수 있는 AI와 공존하고, 이를 통제하여 보다 성공적으로 AI를 활용하기 위해서는 어떻게 해야 할까? 먼저, AI의 핵심인 ‘데이터’의 정확성, 연관성을 확보해야 한다. 기업 내 산재한 데이터를 통합하여 데이터 사일로를 해소하고 데이터에 대한 신뢰를 확보할 때, AI가 생성하는 결과물 또한 신뢰할 수 있으며 유의미한 비즈니스 성과를 도출할 수 있다.

실제로 글로벌 기업들의 경우 디지털 솔루션을 활용해 양질의 데이터를 수집하고, 이를 바탕으로 AI 기술을 활용하고 있다. 식품 기업 제너럴 밀스는 고객의 구매 내역 및 로열티 프로그램 데이터를 디지털 플랫폼에 수집하고 이를 기반으로 AI를 통해 고객에게 무료 간식 샘플 등을 제공하고 있다. 실제 양질의 데이터와 AI 기술, 그리고 CRM을 활용한 결과, 소비자 참여도는 3배 이상, 홈페이지 인지도는 전년 대비 170% 이상 향상시킬 수 있었다.

데이터에 대한 정비를 마쳤다면, AI를 통해 콘텐츠를 생성할 때 유해성을 판단하고 악의적인 콘텐츠 생성을 방지할 수 있는 장치 역시 필수적이다. AI를 활용할 수 있는 업무 영역에 대한 지침과 가이드라인도 필요하다. 특히 전략적인 의사결정을 내리는 중요한 시점에 사람의 개입을 의도적으로 유도함으로써 AI 활용에 대한 통제를 강화할 수 있다. 이러한 ‘의도적인 개입(mindful friction)’을 통해 AI가 생성한 콘텐츠를 사람이 신중하게 검토하고 필요한 조치를 취할 수 있다.

콘텐츠 제작 후에는 AI가 생성한 콘텐츠라는 점을 명확하게 표기함으로써 AI 활용에 대한 투명성을 개선할 수 있다. AI가 생성한 콘텐츠로 인해 발생할 수 있는 혼란을 방지하기 위해서는 사람의 창작물과 AI의 창작물을 명확하게 구분할 수 있어야 하며, 이미 유럽연합(EU)은 AI가 생성한 콘텐츠에 AI 활용 여부를 반드시 표기하도록 강제하고 있다. 이 밖에도 AI가 생성한 콘텐츠에 대한 출처와 부가적인 설명을 명확하게 제공함으로써 신뢰도를 향상시킬 수 있을 것이다.

대량의 콘텐츠를 한 번의 클릭만으로 요약하고, 필요한 정보를 빠르게 전달하는 AI는 업무를 쉽게 처리할 수 있도록 돕고 있지만, AI가 처리할 수 없는 창의성, 판단력, 대인 능력 등이 요구되는 영역에서는 여전히 사람의 개입이 필요하다. ‘똑똑한 AI 비서’가 직장 내에서 잘 적응하고 더 나은 성과를 창출해 내기 위해서는 이처럼 사람의 역할이 중요하다. AI의 한계를 명확하게 인지하고 AI와 협업할 수 있을 때, 비로소 생산성 향상 및 비즈니스 성장은 물론, 도약을 위한 새로운 가능성을 실현할 수 있게 될 것이다.

손부한 / 세일즈포스 코리아 대표

<기고와 칼럼은 본지 편집방향과 무관합니다.>