[디지털데일리 최민지 기자] 전세계가 나날이 발전하는 인공지능(AI) 딥페이크 콘텐츠에 골머리를 앓고 있다. 재미에만 그치지 않고 범죄로 이어질 수 있기 때문이다. 가짜를 구분하기 어려울 정도로 실제처럼 느껴지는 영상에 연예인, 정치인은 물론 일반인까지 노출될 수 있다. 특히, 주요 선거를 앞둔 만큼 한국에서도 AI 딥페이크 규제에 속도를 내고 있다.

1일 국회에 따르면 김승수 의원(국민의힘)은 AI 기술을 이용한 영상‧음향‧화상 등 콘텐츠에 대해 식별 표시를 의무화한 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부 개정 법률안’을 대표 발의했다.

현행법에선 관련 규제 조항이 없어, 이용자는 어떠한 정보가 AI 기술을 이용해 만들어진 가상의 정보인지 판단하기 어려웠다. 이에 AI 기술을 이용해 만든 가상의 정보임을 표시하도록 의무화하자는 것이다. 이를 지키지 않을 경우 1000만원 이하 과태료 부과 및 해당 영상을 삭제할 수 있도록 한다.

이를 통해 AI 딥페이크 영상에 따른 이용자 혼란을 방지하겠다는 취지다.

이러한 조치는 이미 미국에서 행정명령을 통해 추진되고 있다. 미국 상무부는 AI 생성 자료에 워터마크 등을 표기해야 하는 표준안을 개발하기로 했다. 이와 관련 지난해 10월31일(현지시간) 조 바이든 미국 대통령은 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다.

바이든 대통령조차, 본인의 딥페이크 영상을 보고 “내가 언제 저렇게 발언했지”라고 말했다는 후문이다. 그만큼 AI 딥페이크 기술이 발전한 만큼, 이같은 내용의 행정명령이 필요하다는 설명이다.

관련해 챗GPT 운영사인 오픈AI를 비롯해 마이크로소프트, 알파벳(구글), 메타 등도 지난해 7월 AI 콘텐츠에 워터마크를 넣기로 합의하기도 했다.

특히, 올해 주요 선거가 치러지는 만큼 AI를 활용한 네거티브 선거운동을 저지하기 위해 AI 딥페이크 콘텐츠에 대한 규제 논의는 당분간 지속될 전망이다.

올해 4월 총선이 열리는 가운데, 지난달 국회에선 선거일 90일 전부터 AI 딥페이크 영상을 제작‧유포하는 행위를 금지하는 내용을 담은 ‘공직선거법 개정안’이 본회의 통과했다. 단, 선거 90일 전에는 딥페이크 기술을 선거운동에 활용할 수 있지만, 이것이 가상정보라는 사실을 반드시 밝혀야 한다.

다만, 실효성은 해결해야 할 숙제다. 인터넷에 곳곳에 유포되는 딥페이크 영상을 모두 검열하고, 이를 제작하고 유포한 이들을 찾아 처벌하기란 쉽지 않기 때문이다. 해외에서 영상을 만들어 배포한다면, 수사 시간이 길어질 수밖에 없어 적시에 해결하기 어렵다는 문제점도 꼽힌다.