[디지털데일리 최민지 기자] 11월 미국 대통령 선거가 다가오는 가운데, 글로벌 20개 빅테크가 AI 악용 사례를 막기 위해 손을 잡았다.

AP 등 주요 외신에 따르면 지난 16일(현지시간) 독일 뮌헨안보회의(MSC)에 오픈AI 등 20개 빅테크 기업은 AI를 악용한 선거 방해 행위를 방지하기 위해 합리적 예방 조치를 자발적으로 채택하겠다고 합의했다.

이번 협정에 서명한 기업들은 오픈AI와 마이크로소프트(MS), 구글, 메타, 아마존, IBM, 틱톡, 어도비, X(구 트위터), ARM, 스태빌러티AI, 맥아피, 트렌드마이크로, 앤트로픽(Anthropic), 인플렉션AI 등이다.

이들 기업은 자사 플랫폼에서 딥페이크를 포함해 AI를 활용한 허위 콘텐츠가 생성‧배포될 때, 이를 탐지해 식별조치를 취하기로 했다. 꼬리표(라벨, label)를 붙이는 방식이다. 기업들과 모범사례를 서로 공유하고, 해당 허위 콘텐츠가 확산하기 시작하면 신속하게 대응하기로 했다.

다만, 이들 기업이 딥페이크를 전면적으로 금지하거나 제거하겠다고 약속한 것은 아니다. 이에 제도적 구속력이 약하다는 일각의 비판도 제기되고 있다. 미국이 정부와 의회 차원에서 AI 규제 법안을 통과시키지 못하면서, 기업을 향한 압박만 거세지고 있다는 시각도 나온다.

AI 딥페이크 콘텐츠 우려가 커지는 이유는 선거 때문이다. 올해 선거가 이뤄지는 나라는 미국뿐만이 아니다. 2024년은 선거의 해라고 불릴 만큼, 76개국에서 대선과 총선 등 각종 선거가 이뤄질 예정이다.

그런데, AI를 악용해 선거를 교란시키려는 움직임은 실제 발생하고 있다. 최근 미국 대선 관련해 예비경선 하루 전, 민주당 당원들에게 투표 거부하라는 전화가 온 바 있다. 실제 바이든 대통령 음성과 똑같았지만, 이는 가짜 목소리였다.

슬로바키아에선 선거를 며칠 앞두고 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의했다는 녹음이 확산되기도 했다. 사실인 것처럼 퍼졌지만, 이는 AI로 생성한 오디오 녹음이었다.

AI를 악용해 진실과 거짓을 혼동시켜, 국가의 미래가 걸린 선거까지 영향을 미칠 수 있다는 우려가 현실로 다가온 것이다. 일례로, 선거 날짜나 장소 등을 조작해 퍼뜨릴 수도 있다. 빅테크 기업들이 사람들이 중요한 선거에서 AI에 속지 않도록 자율적 협력을 맺게 된 배경이다.

이번 협정에 서명한 MS의 브래드 스미스 부회장은 “AI 도구들이 선거에서 무기가 되지 않아야 한다. AI가 속임수를 퍼뜨리는 걸 옵지 않도록 해야 한다”고 강조했다. 또, X 린다 야카리노 최고경영자(CEO)는 “모든 시민과 기업은 자유롭고 공정한 선거를 보호할 책임이 있다”고 말했다.

한편, 한국에서도 오는 4월 22대 국회의원 총선거가 열린다. 이에 중앙선거관리위원회는 AI 기반 딥페이크 영상을 이용하는 선거운동을 금지시켰다. 또, AI 관련 법안들이 발의되고 있으나 총선을 앞둔 상황이라 통과 여부는 미지수다. 다만, 유럽연합(EU)에선 AI 규제법이 처음으로 통과됐으며, 실제 법 적용은 2026년으로 점쳐진다. 이 법이 시행되면 AI 생성 콘텐츠에, AI로 만든 이미지라는 사실을 표기해야 한다.