금융IT

"설명하라 AI", 금융권 '설명가능한 인공지능(XAI)' 새해 도입 본격화

디지털데일리 발행일 2020-12-26 13:19:56
  • 가
  • 가
이상일
[디지털데일리 이상일기자] 인공지능(AI)을 활용해 개발한 금융상품이 출시되는 등 금융권의 AI접목이 속도를 내고 있는 가운데 AI가 왜 그런 결과를 내놓았는지 ‘설명 가능한 AI(XAI)’ 도입이 새해 속도를 낼 것으로 보인다.

금융위원회는 올해 초 ‘금융분야 AI 활성화’ 워킹그룹 첫 회의(킥오프)를 개최하며 AI 금융서비스 개발을 촉진할 수 있도록 ‘금융분야 인공지능 실무 가이드라인(가칭)’, 과기정통부 AI 법제정비단과 협력해 적법성·공정성 등 윤리 원칙을 담은 ‘금융분야 인공지능 윤리 가이드라인’ 마련에 나선 바 있다.

다만 워킹그룹 첫 회의 이후 코로나19 등으로 회의 참석자간 서면 리뷰 형태의 검토가 있은 이후로 활동은 잠잠한 상황이다.

가이드라인에는 ▲AI의 법적 지위 및 책임 소재 ▲AI 금융서비스 개발시 및 AI의 업무처리시 가명정보 활용 방식 ▲ AI 알고리즘의 저작권 주체 ▲AI 금융서비스의 보안성 유지 방안 및 보안성 평가 기준 ▲금융소비자 손해 발생시 손해배상 방안 및 절차 등이 포함될 예정이다.

이를 위해 금융위원회가 연구용역을 발주해 현재 진행 중인 것으로 알려진다. 용역이 마무리되면 워킹그룹 차원의 검토가 진행 된 후 가이드라인 발표 등이 이어질 것으로 전망되지만 빨라야 새해 초 무렵이 될 것으로 예측된다.

한편 통상 새로운 서비스에 대한 금융당국의 가이드라인이 나와야 금융권의 신 기술 기반 서비스가 본격화되는 것에 비해 인공지능의 경우 금융권이 한 발 앞서가는 모양새다.

KB국민은행도 내년도 XAI 관련 사업을 계획 중이다. 구태훈 AI혁신센터장은 “이미 더케이 프로젝트를 통해 영업점에서 직원들이 고객 응대 시 상품 추천을 할 때 왜 이 상품을 추천해야 하는지 규칙과 룰 기반으로 설명하게 만들었다”며 “아직은 제한적이지만 XAI를 이미 사용하고 있는 상황”이라고 전했다.

물론 XAI가 모든 AI 알고리즘을 설명하는 것은 아니다. 구 센터장은 “부분적으로 설명력을 제공하는 것 등 많은 연구들이 집중적으로 되고 있다. 우리도 내년에 여러 가지 과제들을 준비는 하고 있다. 예를 들어 리서치 과제부터 시작해서 실제 적용할 수 있는 분야 선정 등을 진행할 계획”이라고 밝혔다.

신한은행도 올해 초 은행권 최초로 클라우드 기반 AI 학습 운영 플랫폼인 ‘신한 AI 플랫폼(SACP)’을 통해 은행 내에서 딥러닝 및 머신러닝의 오픈소스를 자유롭게 활용 중이다. 우리은행도 AI가 각종 시장 지수, 경제 지표를 통해 미래 시장을 예측하고, 자산배분전략 수립 및 상품을 관리하는 시장예측시스템 구축에 착수했다.

우리은행은 ▲시장 전망분석 ▲자산배분 ▲포트폴리오 구성 ▲상품 평가 및 선정 ▲상품 리밸런싱 등 자산관리를 위한 전체 과정을 인공지능(AI)의 도움을 받아 신속하고 정확하게 처리할 수 있도록 지원한다.

이처럼 은행들이 인공지능의 도움을 받아 내외부 서비스 고도화에 나선 가운데 인공지능 거버넌스 체계 마련의 근간 중 하나인 XAI 도입은 새해에도 속도를 낼 것으로 보인다. AI 기반 상품이 어떻게 만들어지는 지 등에 대한 근거 등에 대한 제시는 향후 금융당국의 리스크 관리 정책에도 일정 부분 반영이 예상되기 때문이다.

지난 8월 5일부터 시행된 개정 신용정보법에서는 AI 등을 활용한 자동화평가 결과에 대해 설명을 요구하고 이의를 제기할 수 있는 프로파일링 대응권이 도입되는 만큼 금융사들의 행동이 본격화될 것이란 전망이다.

여기에 과학기술정보통신부와 국무조정실은 24일 국정현안점검조정회의를 통해 ‘인공지능 법·제도·규제 정비 로드맵’을 발표했다.

AI(인공지능)가 재산 상의 피해나 인명 사고를 일으켰을 때 책임 소재를 규명할 수 있도록 본격적인 법체계 개편이 검토된다. AI가 개인정보를 처리한 것에 대해 설명을 요구하고 이의를 제기할 수 있도록 내년 상반기 개인정보보호법을 개정한다. 같은 시기 AI가 대량의 데이터 분석 및 인공지능 학습이 가능하도록 저작권법 개정도 추진한다는 계획이다.

<이상일 기자>2401@ddaily.co.kr

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
이상일
2401@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기

이 기사와 관련된 기사

디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스