산업

챗GPT가 인류를 지배한다고?... 점화된 '디스토피아 공포' [디지털&라이프]

디지털데일리 발행일 2023-04-05 13:26:09
  • 가
  • 가
신제인
[디지털데일리 신제인 기자] 다양한 분야에서의 창작 가능성이 증명되면서 이른바 ‘고공행진’을 이어가던 챗GPT가 난관에 직면했다.

전 세계 인공지능 개발 경쟁을 둘러싸고 '디스토피아 논쟁'에 불이 붙은 것.

디스토피아(dystopia)란 이상향 또는 이상적인 세상을 뜻하는 그리스어 '유토피아'의 반대어로, 인간이 통제할 수 없는 권력에 의해 통제받거나 개인의 창의력이 발휘되지 않는 어두운 세상을 뜻한다.

앞서 지난달 28일 미국 비영리단체 '삶의 미래 연구소(FLI)'는 'GPT-4를 능가하는 AI 시스템 개발을 6개월간 중단할 것’을 촉구하는 공개서한을 발표하고 나섰다.

AI가 나날이 발전하면서 정치∙경제적 혼란을 야기할 수 있다는 우려다.

FLI측은 "거대 AI가 초래할 수 있는 위험을 인류가 제어할 수 있을 때까지 개발을 멈춰야 한다"는 서한에 5일 만에 전세계 5만명이 넘는 지지자들이 서명했다고 밝혔다.

그 중에는 일론 머스크 테슬라 최고경영자(CEO)를 포함해 스티브 워즈니악 애플 공동창업자, 딥러닝 창시자인 요슈아 벤지오 몬트리올대 교수 등 AI 분야에서 저명한 인물들도 동참한 것으로 드러났다.

◆ 서명 진위 여부 ‘불투명’…조작 의혹 나왔다
다만 명시된 일부 인물들이 "서한에 동의한 적 없다"고 증언하면서 조작 의혹과 함께 진정성 논란도 불거졌다.

페이스북의 모기업 메타 측 수석 과학자 얀 르쿤은 트위터를 통해 "서한의 내용을 지지하지 않는다"며 공개적으로 반대 입장을 밝히기도 했다.

서한 발표에 앞서 서명자의 신원확인 검증이 충분히 이뤄지지 않았던 것이다.

이에 서한의 의도가 불분명하다는 지적도 나왔다.

전 구글 직원이자 현재 AI 연구 스타트업 '허깅페이스'에서 수석 윤리 과학자로 일하는 마거릿 미첼은 "서한이 개발 중단 대상으로 지목한 'GPT-4를 능가하는 AI'가 구체적으로 무엇인지 명시되지 않았다"고 지적했다.

그는 또 "문제의 서한에 담긴 내용이 현실로 옮겨진다면 FLI의 주요 후원자에게 이익이 돌아갈 것"이라고 비판했다.

FLI의 주요 후원자는 머스크 재단으로 알려져 있는 만큼, AI 기술 패권 경쟁에서 선두를 잡으려는 '흑막'으로 서한을 이용했을 수 있다는 주장이다.

이 같은 비판에 FLI 측은 "일론 머스크가 경쟁을 늦추려 시도한다고 말하는 이들이 있는 건 정말로 웃기는 일"이라며 "머스크는 서한 초안 작성에 관여하지 않았다"고 반박했다.

◆ “디스토피아까진 아니더라도”…규제 필요성 지속 제기


FLI 서한 논란과 함께 과도한 '디스토피아 공포'가 만연하고 있다는 목소리도 힘을 얻고 있다.

미국 코네티컷 대학의 시리 도리 하코헨 조교수는 "AI는 인간 수준의 지능에 도달하지 않고도 기후변화, 핵전쟁 등 각종 위험을 충분히 악화할 수 있으며 이런 문제는 이미 현실화한 상황"이라며 "이제와서 GPT-4를 뛰어넘는 AI 개발을 중단하는 건 큰 의미가 없다"고 소신을 밝혔다.

물론 적절한 규제가 논의되기 전까지 챗GPT에 대한 우려는 쉽사리 사그라지지 않을 전망이다.

실제로 이달 초 이탈리아는 세계 최초로 국가 차원에서 챗GPT접속을 차단했다.

챗GPT가 개인정보와 데이터를 윤리적이고 안전하게 활용하는지 불분명한 데다가, 이용자 나이 제한이 없어 청소년들이 유해 정보를 습득할 수 있다는 이유다.

JP모건체이스 등 미국 월가 은행들과 소프트뱅크 등 일본 기업들도 기밀정보 유출을 우려해 챗GPT 사용을 제한하고 있다.

챗 GPT를 개발한 오픈AI CEO 샘 알트먼도 이에 어느정도 공감을 나타냈다.

그는 "챗GPT는 모든 개인정보보호법을 준수하고 있다"면서도 "AI기술을 악용한 허위 정보 유포에 대해서는 우려한다"고 전했다.

알트먼은 오는 5~6월 서울 등 전 세계 주요 도시를 방문, 오픈AI 기술 및 제품을 쓰는 개발자들과 정책 입안자들을 만난다.

국내에서는 과학기술정보통신부와 디지털플랫폼정부위원회 등 AI정책 당국자들을 만나 향후 규제 방향 등을 논의할 것으로 전해진다.

과기정통부 고위 관계자는 "AI를 활용한 공공업무 디지털 전환도 모색되고 있지만 기밀정보 유출 등 오남용에 대한 우려도 높다"면서 "올 상반기 중에는 분야별로 AI를 제대로 수용할 수 있는 방향들을 정리해 발표할 수 있도록 하겠다"고 말했다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
신제인
jane@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기

이 기사와 관련된 기사

디지털데일리가 직접 편집한 뉴스 채널

당신이 좋아할 만한 뉴스

많이 본 기사

연재기사

실시간 추천 뉴스