[디지털데일리 옥송이기자] 삼성전자는 신작 '갤럭시 S24 시리즈'에 AI 워터마크를 표기하겠다고 발표했다. 최근 논란을 빚는 딥페이크 논란을 피하고, AI 규제법에 대응하기 위해서다.

지난 18일 베일을 벗은 갤럭시 S24 시리즈는 온디바이스 AI인 갤럭시 AI를 비롯해 생성형 AI가 스마트폰 안에 탑재됐다. 통역 통화 등 개인 보안이 중요한 기능은 온디바이스 AI가 작동하고, 고도의 연산이 필요한 작업은 생성형 AI가 해결한다.

다양한 AI 기능 가운데 '생성형 편집' 기능에는 눈에 띄는 유의사항이 명시됐다. '생성형 AI를 기반으로 만들어진 모든 이미지는, 이미지 그 자체와 메타데이터(Metadata, 속성정보) 모두에 워터마크가 표기된다'는 것이다.

생성형 편집은 스마트폰 사용자가 자유롭게 사진을 편집하는 기능이다. 사진 속 피사체의 위치를 옮기고 크기도 조정할 수 있는데, 편집 과정에서 사진이 삐뚤어지거나 빈 공간이 생긴다. 이때 수많은 이미지를 학습한 생성형 AI가 빈 공간에 본래 어떤 사물이 있으리라 예측해, 빈공간 주위와 어울리는 이미지를 채워넣는 식이다.

삼성전자 관계자는 "기존에 없던 이미지를 생성형 AI가 만들어내는 것"이라며 "최근 AI를 기반으로 이미지를 합성한 딥페이크가 여러 논란을 빚기도 하고, 악용될 소지가 있기에 갤럭시 S24의 생성형 AI로 만든 이미지에 워터마크를 표기한다"고 말했다.

이어 "중국은 AI 창작물에 워터마크를 제공해야 한다는 규제가 있고, 유럽에서도 AI 관련 규제안을 약 2년 후부터 시행할 것으로 알고 있다"며 "한국에서는 아직 관련 규제가 없지만, 각국에서 생성형 AI로 만든 이미지에 대한 논의가 이어지고 있어 삼성은 확실한 AI 워터마크를 준비한 것"이라고 덧붙였다.

AI 워터마크는 생성형 AI가 만든 이미지에 반드시 표기되지만, 사용자의 뜻대로 해당 워터마크를 지울 수 있다.

삼성전자가 AI 워터마크를 명시하고, 딥페이크 논란과 AI법안을 선제 대응한 데 대해 외신도 좋은 평가를 전했다. IT분석 기업인 CCS인사이트의 벤 우드 수석전문가는 17일(현지시간) CNBC에 "AI에 기반해 만든 이미지와 비디오 조작 등의 딥페이크 콘텐츠는 윤리적 문제를 제기한다"며 "AI가 변경한 이미지와 메타데이터 모두에 워터마크를 추가한 것은 삼성의 건설적인 조치이며, 다른 기업들도 따를 것이라고 확신한다"고 말했다.