“불똥 튈라” 구글, 가짜 선거 광고 차단 ‘촉각’

인간 작품에 ‘AI 제작’…검수 정확도 지적받은 메타

[디지털데일리 오병훈 기자] 생성형 인공지능(AI) 이미지를 활용한 콘텐츠가 넘쳐나는 상황 속에서 구글, 메타(META) 등 글로벌 플랫폼 기업들이 효과적으로 ‘인간 작품’과 ‘AI 작품’ 구분하는 방법을 찾기 위한 고군분투를 이어가는 중이다.

2일(현지시간) CNBC 등 다수 외신에 따르면, 최근 구글과 메타 등 주요 플랫폼사들이 AI가 생성한 이미지임을 표시하는 정책을 강화했다.

먼저 구글은 지난 1일부터 생성형 AI가 포함된 선거 광고에 생성형 AI를 통해 제작됐음을 의무적으로 표기하도록 하는 정책을 도입했다. 다가오는 미국 대선 기간에 생성형 AI 이미지를 활용한 가짜뉴스를 차단함으로써 책임론을 피하기 위한 사전적 조치로 해석된다.

앞서 지난 4월부터 6월까지 실시된 인도 총선거 기간에는 발리우드 유명 배우가 나렌드라 모디 총리를 비판하고 야당 투표를 권하는 가짜 동영상이 게시되는 사건이 발생했다.

구글은 생성형 AI 이미지와 같이 실제 사람이 행하지 않은 인위적인 모습이나 음성을 담은 콘텐츠를 ‘합성 콘텐츠’로 정의했다. 앞으로 구글에서 합성 콘텐츠가 포함된 광고를 게시하기 위해서는 설정에 ‘변경되거나 합성된 콘텐츠’ 확인란을 체크한 뒤 게시해야 한다.

메타는 기존 생성형 AI 이미지에 붙이던 ‘메이드 위드 AI(Made with AI)’ 문구를 ‘AI 인포(AI info)’로 수정했다. 사람이 제작한 콘텐츠에도 메이드 위드 AI 문구가 붙는 문제를 해결하기 위함이다.

메타에서는 일찍이 생성형 AI 이미지와 사람이 제작한 이미지를 구분하기 위해 올해 초 메이드 위드 AI 라벨을 부착하는 정책을 도입한 바 있다. 그러나 이후 사진작가 피트 소우자(Pete Souza)가 찍은 농구 경기 사진에 메이드 위드 AI 문구가 표시되는 문제가 발견되기도 했다.

CNBC 보도를 통해 메타는 “우리는 이러한 라벨이 항상 사람들 기대에 부합하지 않고 충분한 맥락을 제공하지 못한다는 것을 발견했다”며 “라벨링 방식과 의도가 더 잘 일치하도록 프로세스를 개선해 사람들이 자세한 정보를 볼 수 있도록 하고 있다”고 전했다.