[디지털데일리 이종현기자] “생성형 AI를 마징가Z라고 표현하곤 한다. 조종대를 누가 쥐느냐에 따라 신이 될 수도 악마가 될 수도 있다. 어떤 목적으로 데이터와 모델을 학습시키느냐에 따라 엄청난 기회를 줄 수도, 재앙이 될 수도 있는 분기점이 왔다.” (문성욱 데이터경제포럼 대표)

18일 서강대학교 기술경영전문대학원 원장이자 데이터경제포럼 대표인 문성욱 교수는 서울 중구 대한상공회의소에서 개최된 제4회 데이터 경제 컨퍼런스 현장에서 ‘생성형 AI: 기회와 위험 그리고 대응’을 주제로 발표하며 이같이 밝혔다.

이날 문성욱 교수는 생성형 인공지능(AI) 등장으로 의사결정 과정에서 예측과 판단 간격이 크게 벌어지고 있다고 지적했다.

문 교수는 “딥러닝을 이용해서 모델을 만드는 과정이 굉장히 복잡하다. 그러다 보니 모델을 만드는 사람들조차 모델을 잘 이해하지 못한다. 흔히들 지적하는 설명가능성(Explainable)의 문제”라며 “의사결정을 내리는 사람들이 왜 그런 결정을 내렸는지 설명하기 힘들어진다. 이것이 우리가 일하는 방식과 결부돼 엄청난 갈등 요인으로 부각되고 있다”고 전했다.

이와 관련 문 교수는 병원을 예로 들었다. 환자가 내방할 경우 의사는 환자 증상을 듣고 병명을 예측한 뒤 판단을 내리고, 이를 기반으로 처방하게 된다. 이 과정에서 ‘예측’은 AI가 잘 하는 영역이다. 기술 발전으로 예측을 위한 비용(Cost)이 크게 낮아지는 셈이다.

다만, 문 교수는 예측의 정확성과 판단의 효과성은 전혀 다른 영역이라고 강조했다. 수술을 할 경우 생존 확률이 10%밖에 안 될것으로 예측되는 환자가 있다 할지라도, 수술을 권할 것인지 말 것인지를 판단하는 것은 어디까지나 의사이기 때문이다.

그가 지적한 것은 AI가 높은 정확성을 가지고 있지만 정작 AI 모델 복잡성으로 왜 그런 예측을 했는지를 모델을 이용하는 이들도 모른다는 점이다. 만약 AI 결정에 반하는 낮은 확률의 선택지를 고르는 경우, 이에 대한 설명을 해야 할 수밖에 없다. 예측과 판단의 간극이 점차 벌어지면서 갈등이 커지고, 해소할 여지도 줄어들고 있다는 우려다.

문 교수는 “예측 정확성이 높아지면서 예측하는 사람과 판단하는 사람이 분리되고 있다”며 “혈당을 굉장히 정확하게 측정하는 의료기기가 등장한다고 했을 때, 측정기기 결과를 기반으로 병원에서 당뇨병 약을 줄 수 있는지는 다른 문제다. 혈당 측정 정확성뿐만 아니라 다른 당뇨병의 진단과 관련된 여러 요인을 동시에 판단해서 의사가 판단을 내려야 한다”고 부연했다.

생성형 AI 위험성을 언급했다고 해서, 기술 도입에 마냥 부정적인 것은 아니다. 문 교수는 “예측과 판단의 거리가 그리 멀지 않은 영역이 있다. 차이가 큰 부분은 의료, 그렇지 않은 부분은 금융”이라며 “주가가 오를 것 같으면 사야 하고, 내릴 것 같으면 팔아야 한다. 생성형 AI가 도입되기 쉽다. 하지만 의료는 윤리적인, AI의 난제로 언급되는 판단 이슈를 해결해야 한다”고 말했다.