[디지털데일리 김보민기자] 인공지능(AI) 시대가 도래하면서 첨단 기술과 데이터에 특화된 거버넌스를 수립할 필요성이 커졌다. 특히 AI 위험에 대응하기 위해 핵심 재료인 데이터를 관리해야 한다는 의견에도 공감대가 형성되는 추세다.

현재 주요국 정부와 국제기구는 범세계적 규범을 마련하기 위해 힘을 합치고 있다. 유엔 AI 고위급 자문기구(UN AIAB)의 경우 국제 AI 거버넌스 원칙을 수립해 향후 발생할 수 있는 위협 요인에 대응하고 있다. 글로벌디지털컴팩트(GDC) 차원에서도 국제 AI 거버넌스가 채택될 수 있도록 글로벌 행보도 이어갈 예정이다.

아만딥 싱 길 유엔 기술특사는 23일 서울 더플라자호텔에서 열린 'AI와 데이터 거버넌스 국제 콘퍼런스' 기조연설 무대에 올라 "데이터와 AI 거버넌스는 밀접히 연결돼 있다"며 "데이터가 AI 시스템에 투입되는 핵심 원천일 뿐만 아니라, AI 모델이나 결과만 봐서는 위험요소에 대응할 수 없기 때문"이라고 말했다.

유엔은 AI 위험 요인으로 '남용'을 주목하고 있다. AI 모델과 서비스를 개발하거나 활용하는 과정에서 윤리적 문제가 발생할 수 있고, 데이터가 악용돼 인권을 침해할 가능성도 무시할 수 없다.

길 기술특사는 "전 세계 39명의 전문가로 구성된 UN AIAB는 AI, 데이터 거버넌스와 관련해 국제사회에 제언을 하는 역할을 한다"며 "12월 중간보고서를 통해 다섯 개 원칙을 공개한 바 있는데, 이 중 하나가 데이터 거버넌스 원칙"이라고 말했다. AI 시대에 발생할 수 있는 위험 요인에 이러한 거버넌스 원칙이 대응 방안이 될 수 있다는 취지다.

유엔은 ▲과학 기술을 근거로 AI에 따른 위험 및 기회 포착 ▲AI 거버넌스에 대한 국제사회 대화 추진 ▲국제 공조를 통한 역량 구축 등을 통해 이러한 원칙을 추진하고 있다. 길 기술특사는 "우리는 기술 진보가 이뤄지고 있고, 미래가 이렇게 변할 것이라고 이야기하지만, 당장 2~3년 뒤가 어떤 모습일지 모른다"며 "AI 위험과 기회를 지속 평가해 국제사회 일원들이 다가올 미래를 준비할 수 있게끔 하는 것이 중요하다"고 강조했다.

유엔은 GDC를 중심으로 글로벌 규범을 수립하는 데 속도를 올리고 있다. 관련해 글로벌 행사에서 권고안을 소개한다는 구상이다.

한국 또한 역량을 합치는 데 힘을 보탠다. 윤석열 대통령과 리시 수낵 영국 총리는 21일 'AI 서울 정상회의'에서 안전, 혁신, 포용 3대 원칙을 담은 합의를 도출했고, 영국은 안전과 혁신에 초점을 둔 '서울선언'을 채택하기도 했다. 정부는 UN GDC 수립에 한국 추진 성과를 반영할 계획이다.