침해사고/위협동향

4월 총선앞두고 ‘딥페이크’ 주의보··· “가짜뉴스 양산될 수도”

디지털데일리 발행일 2020-01-15 09:11:42
  • 가
  • 가
이종현
딥페이크로 만들어진 오바마 미국 대통령의 영상
딥페이크로 만들어진 오바마 미국 대통령의 영상
[디지털데일리 이종현기자] 삼성전자는 지난 7일(현지 시각) 미국 라스베이거스에서 열리는 세계 최대 가전 전시회 ‘CES2020’에서 인공지능(AI) 프로젝트 ‘네온’을 선보였다. 네온은 실제 사람과 분간하기 어려운 ‘인공인간’이다. 기술의 발전에 박수를 보내면서도 섬뜩한 구석이 있다. 이 기술이 ‘딥페이크’ 등 나쁜 방향으로 활용되면 그 파급력은 어디까지일까.

네온을 개발한 삼성리서치 아메리카 산하 연구소 ‘스타랩스’는 해당 기술이 딥페이크나 ‘얼굴 소생’ 기술과는 다르다고 설명했다. 하지만 네온이 딥페이크 기술 발달의 방향 중 한 갈래가 될 수도 있다는 우려는 사라지지 않는다.

폭발적인 AI 기술 발달로 딥페이크 콘텐츠는 점점 더 정교해지고 있다. 전문가가 아니고선 진위를 파악하기 어려운 수준에 이르렀다. 2018년 4월에는 버락 오바마 전 미국 대통령이 도널드 트럼프 미국 대통령에게 독설을 퍼붓는 영상이 공개됐다. 딥페이크에 대한 경각심을 주기 위해 만든 가짜 영상이라는 게 밝혀지기 전까지 진위 여부에 대한 논란이 크게 일었었다.

실제 정치에서 경쟁 상대를 공격하기 위한 ‘네거티브’ 전략에 딥페이크를 이용한 사례가 있다. 멕시코에서는 대선 당시 야당 후보였던 현 대통령을 음해하는 가짜 녹취 파일이 등장했다. 딥페이크로 위조된 음성 파일이었다.

또 딥페이크가 악용되는 대표적 사례인 불법 음란물 콘텐츠 생성도 지속할 것으로 우려된다. 네덜란드 사이버보안 업체 ‘딥트레이스’는 온라인에 유통된 딥페이크 동영상 1만4798개 중 96%가 포르노였다고 밝혔다.

이에 11월 대통령 선거를 앞둔 미국은 ‘딥페이크 경계령’이 내려진 상태다. 페이스북은 지난 6일 딥페이크 영상을 차단·삭제하겠다는 방침을 공개했다. AI를 통해 위조하는 딥페이크 콘텐츠와 이를 잡는 AI 알고리즘, 창과 방패의 싸움이다. 딥페이크를 규제하는 법안도 잇따라 발의되고 있다.

남의 일은 아니다. 한국은 AI 활용도가 무척 높은 나라 중 하나다. 인터넷도 발달돼 있다. 딥페이크를 이용한 ‘가짜뉴스’가 퍼지기 좋은 환경이다. 때마침 4월15일 ‘21대 국회의원 선거(총선)’도 앞뒀다. 국회 입법조사처는 올해 총선 때 딥페이크 영상이 등장할 수도 있다고 경고한 바 있다.

전문가들은 “현재 우리나라는 딥페이크 콘텐츠를 식별하는 역량이 부족한 상황”이라고 평가했다. 결국 생성을 미연에 방지해야 하지만 관련 법 체계가 마련돼 있지 않은 상황이다. 딥페이크로 음란물 콘텐츠를 합성·편집·가공하거나 이를 유포한 사람을 성폭력범죄로 처벌하는 내용을 담은 ‘성폭력범죄의 처벌 등에 관한 특례법 일부개정법률안’ 등이 발의됐으나 각 상임위나 법제사법위원회에 계류돼 있는 상황이다. 일각에서는 발의된 법안들이 근본적인 대책이 될 수는 없는 만큼 사회적인 논의가 이뤄져야 한다는 목소리가 나온다.

<이종현 기자>bell@ddaily.co.kr
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
이종현
bell@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기

이 기사와 관련된 기사

디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스