오픈AI, ‘지구촌 선거’ 앞두고 허위정보 확산 방지 나섰다

솔루션

디지털데일리 발행일 2024-01-16 16:01:32

이종현 기자

[

디지털데일리 이종현기자] 오픈AI가 자사의 인공지능(AI) 기술이 선거에 악용되는 것을 막기 위한 조치에 나섰다. 무분별한 가짜뉴스 확산을 막고 AI 기술이 올바르게 활용되도록 한다는 방침이다.

오픈AI는 현지시각 15일 블로그를 통해 ‘챗GPT’, ‘달리(DALL-E)’ 등 자사의 AI 도구가 제공하는 최신 선거 관련 정보에 출처를 표시할 예정이라고 밝혔다.

챗GPT가 제공하는 정보, 달리가 제공하는 이미지가 어디에서 누구에 의해 만들어졌는지 등 출처가 제공되는 것이 골자다.

달리가 제공하는 이미지에 대한 검증이 강화되는데, AI를 기반으로 얼굴 등을 실제처럼 조작한 ‘딥페이크’에 대한 우려도 커지는 중이다. 이를 위해 어떤 이미지가 달리에 의해 생성됐는지 여부를 확인할 수 있는 ‘이미지 찾기 도구’가 출시된다.

오픈AI는 해당 이미지 찾기 도구를 미디어와 연구자 등에게 우선 배포해 피드백을 받을 예정이라고 안내했다. 또 달리가 제공하는 이미지에는 이를 확인하는 워터마크가 표시될 것이라고도 부연했다.

오픈AI는 블로그를 통해 “공정한 선거를 위해 모든 것은 민주적인 과정으로 이뤄져야 한다”며 “우리의 기술이 이 과정을 훼손하는 것을 원치 않는다”고 말했다.

한편 구글은 앞서 자사 AI 챗봇 ‘바드’와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한했다. AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 선거 광고가 AI를 사용한 경우 광고주가 이 사실을 눈에 띄게 표시하도록 했다.

이종현 기자

bell@ddaily.co.kr

이 기사와 관련된 기사