과기정통부, ‘국제 AI안전연구소 네트워크’ 참여…“안전한 AI 위해 힘 합치자”

실시간
뉴스

e비즈*솔루션

과기정통부, ‘국제 AI안전연구소 네트워크’ 참여…“안전한 AI 위해 힘 합치자”

디지털데일리 발행일 2024-11-22 15:28:39

오병훈 기자

URL복사

[ⓒ과학기술정보통신부]

[디지털데일리 오병훈기자] 인공지능(AI) 안전연구소가 국제 AI 안전 연구 공조를 위해 본격적으로 주요국 AI안전연구소와 협력 체계를 구축한다.

22일 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 지난 20일과 21일 양일간 미국 샌프란시스코에서 열린 ‘국제 AI안전연구소 네트워크’행사에 참석했다고 밝혔다. 이번 행사는 지난 5월 개최된 ‘AI서울정상회의’에서 발표된 ‘서울선언’ 핵심의제인 ‘AI안전연구소 설립’과 ‘안전한 AI에 대한 글로벌 협력’을 이행하기 위한 후속조치로 개최됐다. AI안전연구소는 이번달 말 출범을 앞두고 있다.

국제 AI안전연구소 네트워크행사에는 지난주 임명된 AI안전연구소 김명주 소장을 포함한 대표단을 파견해 타국 AI안전연구소와 긴밀한 네트워크를 구축하기로 했다. 행사에는 주최국 미국을 포함해 10개국 AI안전연구소(또는 상응하는 연구기관), AI안전분야 기술전문가 등이 참석한 가운데, ‘국제 AI안전연구소 네트워크’ 출범을 선언하고, 네트워크 미션 및 운영거버넌스 논의와 AI안전 연구·테스팅·지침에 대한 기술적 논의가 진행됐다.

국제 AI안전연구소 네트워크는 전세계 기술전문성을 결집해, AI안전 관련위험 및 완화방법을 창출하고, 국제적인 연구를 통해 상호 운용가능한 원칙, 모범사례 적용 지원을 목표로 ①연구 ②테스팅 ③지침 ④포용 분야에 대한 글로벌 협력을 중점적으로 추진해 나갈 계획이다.

2일간 이어진 기술세션에서는 AI안전 관련 핵심 연구분야인 ▲합성콘텐츠 위험 저감 ▲AI기반모델 테스트 ▲고급 AI시스템 위험 평가에 대해 심도깊은 논의가 진행됐다. 첫 세션에서는 각국이 연구개발 중인 AI 합성콘텐츠 투명성 확보기술(워터마크, 탐지기술 등) 및 관련 모범 사례를 공유하고, 향후 글로벌 차원 공동 연구주제 등을 논의했다.

이어지는 세션에서는 AI기반모델 테스트 방법론‧도구를 논의하고, 테트스 방법‧결과에 대한 상호운용성 확보방안을 모색했다. 마지막 세션에서는 고급AI시스템 테스트결과 해석을 통한 AI위험의 정량적 식별‧평가방안을 논의했다.

한국 대표단은 현장에서 ‘딥페이크 탐지 및 생성억제 기술 연구(우사이먼성일 성균관대 교수)’, ‘AI위험평가 및 검증체계(곽준호 한국정보통신기술협회 AI신뢰성 정책팀장)’ 등 AI안전 관련 국내 주요 연구성과를 발표함으로써 글로벌 연구안건을 도출, 주요국 AI안전연구소와 연구협력을 구체화하는 계기를 마련했다.

송상훈 과기정통부 정보통신정책실장은 “AI안전 글로벌 연대는 정부가 주도해 정립했던 지난 서울선언 핵심의제였다”며 “서울선언 핵심규범‧가치가 주요국이 적극적으로 지지‧참여하는 국제 AI안전연구소 네트워크 출범으로 신속하게 구체화됐다는 점에서 의미가 있다”고 말했다. 또, “정부는 이번달에 AI안전연구소를 개소해, AI안전연구를 수행하고, ‘국제 AI안전연구소 네트워크’에도 참여해 글로벌 차원 AI안전 기술‧규범 발전에 주도적인 역할을 하겠다”고 강조했다.