금융 산업에서 인공지능(AI) 기술은 서비스의 효율성 및 품질 개선을 돕는 혁신 기술로 주목을 받고 있다. 특히 신원 확인 과정에서 얼굴 인식 보안 기술은 계좌 개설, 송금, 청구 정산 등 금융 서비스 보안에 다양하게 활용되고 있다.

그러나 데이터 세트, 알고리즘, 모델 및 디지털 공격 방법 등 AI 생성 콘텐츠(AIGC)를 활용한 사기 사례가 빠르게 증가하고, 이미지를 넘어 사운드, 영상 등 다양한 형태의 미디어로 위조 콘텐츠가 확장되는 등 심각한 보안 문제도 야기되고 있다. 금융 산업 입장에서는 신규 보안 기술의 연구 개발과 적용에 상당한 시간과 자원을 투자하고, 정상적인 비즈니스와 고객 경험에 영향을 주지 않기 위해 신기술의 검증을 신중하게 진행해야 하는 만큼 빠른 대응이 어려운 경우가 많아 대응이 더욱 어려운 상황이다.

그동안 AI 안면 인식 기술은 금융 보안의 기술 진화에서 중추적인 역할을 하며 여러 단계의 개발과 진화를 거쳤다. 초기 AI 안면 인식 기술은 눈, 코, 입 등의 위치와 모양과 같은 기하학적 특징에 대한 얼굴 인식 알고리즘을 기반으로 한다. 알고리즘은 비교적 간단하며 빛, 자세, 표정 등의 요인에 쉽게 영향을 받는다. 정확성과 보안 문제로 인해 은행과 일반 대중의 일상적인 거래에는 제한적으로 적용됐으며, 널리 보급되지 않았다.

이후 딥러닝 기술을 기반으로 한 AI 모델 학습은 얼굴의 특징을 자동으로 추출하고 정확한 인식과 검증 프로세스를 수행할 수 있다. 이 단계에서의 알고리즘은 높은 인식 정확도와 견고성이 특징이며, 다양한 조명과 자세 및 표정 등 기타 요인에 적응 가능하다. 특히 금융 산업에서의 적용이 점차 대중화되어 ATM, 모바일 뱅킹 등 다양한 금융 프로세스에 AI 안면 인식 기술이 도입되기 시작됐으며, 한편으로는 이를 적용한 범죄가 확산됐다.

최근 몇 년 간 다양한 실시간 감지 기술과 AI 강화 보호 기술을 기반으로 금융 산업에서 적용하는 등 AI 안면 인식 기술은 성숙 상태에 이르렀다. 주요 금융 기관들은 고객 신원 확인, 원격 계좌 개설과 결제, 보험금 청구 및 기타 비즈니스에 AI 안면 인식 기술을 채택했다. 그러나 금전, 이권 및 기타 사유로 인해 AI 안면 인식 기술 분야도 이를 적용한 범죄에 가장 큰 타격을 받고 있는 상황이다.

AIGC를 활용한 사기의 유형이 다변화되고 발전함에 따라 업계에서는 이에 맞서는 새로운 기술을 적용하고 있다. 더욱 스마트하고 효과적인 안면 인식 보안 실드를 구축하기 위해 ▲다중 모드 기술을 기반으로 한 AIGC 얼굴 감지 ▲실제 콘텐츠 학습에 기반한 이상 탐지 알고리즘 ▲ AIGC 공격 탐지 등의 방안이 적극 논의되고 있다.

다중 모드 기술을 기반으로 한 AIGC 얼굴 감지는 이미지, 영상, 텍스트 등과 같은 여러 형태의 정보를 결합해 다방면에서 가짜와 진짜를 구별하며 알고리즘의 정확도를 향상시키는 방안이다. 구체적으로 얼굴의 이미지, 영상, 주파수 도메인, 텍스트 및 기타 관련 정보를 결합해 최적화하여 해당 기술의 정확도와 일반화를 향상시킬 수 있다. 이미지 모드는 색상 질감 이상과 같은 이미지의 위조 흔적과 페이스 스와핑 융합의 가장자리에 초점을 맞추고, 영상 모드는 시간적 동작의 불일치에 중점을 둔다. 주파수 도메인 모드는 고주파수 정보를 살펴보며, 텍스트는 위조 영역, 위조 모드 및 이유에 대한 텍스트 설명을 안내하는 의미 정보를 제공하여 합성에 대한 모델의 이해를 전반적으로 향상시키고 진짜와 가짜를 효과적으로 구별한다.

다음으로, 실제 콘텐츠 학습에 기반한 이상 탐지 알고리즘은 실제 콘텐츠 학습에 중점을 두고, 진짜와 가짜 데이터의 분포 차이를 통해 새로운 유형의 공격을 방어하고 알고리즘의 일반화를 개선한다. 기존의 가짜 얼굴 탐지 방법 대부분은 입력 이미지의 특정 위조 패턴(예: 노이즈 특성, 로컬 텍스처, 주파수 영역 통계)에 초점을 맞춰 위조된 얼굴을 식별하는데, 특정 위조 패턴에 지나치게 집중하게 되면 오히려 새로운 위조 패턴을 가진 위조 샘플을 식별하지 못할 수 있다. ‘재구성-분류 기반 학습 프레임워크’는 이러한 문제를 해결하기 위해 실제 얼굴 이미지를 재구성하여 실제 얼굴의 일반적인 표현을 학습해 공격 데이터 재구성의 오류를 기반으로 분류를 진행하여 더 일반화된 모델을 구축한다.

마지막으로, AIGC 공격 탐지는 일반적인 AIGC 공격 특징을 학습하며, 이를 바탕으로 특정 생성 알고리즘을 추가로 파악해 공격을 식별한다. 공격 탐지는 고급 데이터 분석 기술을 통해 AIGC 공격의 생성 방법을 역추적할 수 있다. 예를 들어, 얼굴 위조 방지 탐지 분야에서 중국 최고의 AI 연구소의 연구원들은 얼굴 대체, 이모티콘 구동, 속성 편집, 얼굴 대체 등과 같은 20가지 이상의 주요 위조 기술을 다루는 “개방형 시나리오에서의 심층 위조 추적성”(OW-DFA)이라는 새로운 벤치마크를 구축하여 개방형 시나리오에서 다양한 유형의 위조 얼굴의 효과를 평가할 수 있도록 한다.

다중 모드 모델 기술을 기반으로 구축된 금융 등급 AI 실드는 강력한 라이브 식별 기능을 통합하여 기존 사진의 진위여부를 직접 식별하는 방식으로부터 벗어나, 실제 사람처럼 생각하도록 유도하며 비 라이브 이미지 및 영상 시나리오(예: 신원 인증, 아바타 인증 등)를 식별해서 관련 인증 문제를 효과적으로 해결한다. 예를 들어 은행의 리스크 관리 시스템 중 고객의 신원 확인 세션에서 얼굴 인식 후 AI 실드 인터페이스를 한 번 조정하고 검증 통과 후 결과를 반환해 시스템이 이미지 및 영상 속 얼굴과 고객이 예약한 생체 특성에 약간의 차이가 있음을 발견하면, 추가 신원 확인 프로세스 또는 수동 개입을 실행하여 은행의 자금 손실과 추가 연쇄 위험 발생을 방지하는 데 도움을 주고 있다.

향후 복잡하게 변화하고 진화하는 보이스피싱 공격 패턴에 대응하기 위해서는 보다 빠르고 효율적임과 동시에 지능적인 금융 AI 안면 인식 시스템을 구축하는 것이 필수이다. 기술 발전의 흐름 속에서 안면 인식 기술 외에도 음성 지문 인식, 손바닥 지문 인식, 오디오 및 영상 신원 확인 등 새로운 신원 확인 기술이 활발히 개발되고 있으나, 금융 산업에서의 AI 범죄는 지속적으로 벌어지고 있고 있으며 앞으로도 존재할 것이라는 점을 반드시 염두에 두어야 한다.

그렇기에 AI 보호 역량 강화는 필수이며, 금융 기관은 관련 엔진 업데이트 메커니즘을 지속적으로 업그레이드해야 한다. 차단된 공격 식별, 알고리즘 자가 학습, 위험 보고서를 통한 역추적 탐지 및 사후 이벤트 클러스터링, 속성 분석 등 건전한 AI 모니터링 및 예방을 기반으로 한 AI 공격 인식 및 탐지 방안을 모색해야 한다. AI 사기 및 기타 새로운 유형의 공격은 금융 및 규제 기관, 보안 회사와 고객이 직면한 공통된 과제이며 이를 위한 기술과 거버넌스의 혁신, 규제 메커니즘 및 스캠 기술 교육 등 다방면에서 공동으로 추진하는 등 다양한 노력을 기울일 필요성이 제기된다.

<기고와 칼럼은 본지 편집방향과 무관합니다.>