[디지털데일리 김보민 기자] 글로벌 리더들이 한 자리에 모여 인류가 직면한 위기를 논하는 세계경제포럼(WEF·다보스포럼) 연차 총회가 막을 내렸다.

올해 총회를 뜨겁게 달군 주제는 '인공지능(AI)과 사이버 위협'이었다. 글로벌 리더들은 AI 발전이 일상에 변화를 가져오고 있다는 점에 공감하되, 사이버 공격 또한 첨단 기술을 기반으로 정교해지고 있다고 입을 모았다. 각국에 맞는 대응 체계가 필요하다는 공감대도 형성된 분위기였다.

21일(현지시간) 닛케이아시아 등 외신에 따르면 이번 다보스포럼에 참석한 정계, 학계, 기업 관계자들은 AI 관련 토론에 참석해 이러한 위협에 위기감을 표했다. 이달 15일부터 19일까지 스위스 다보스에서 열린 이번 총회는 AI, 기후위기 등 범국가 차원의 주제를 논의하는 자리였다.

포문을 연 인물은 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)다. 나델라 CEO는 "우리는 새로운 기술이 가져다줄 혜택과 의도하지 않은 결과를 모두 고려해야 한다"라며 "의도하지 않은 결과가 나올 때까지 기다리지 않고, 위험 관리에 적극적으로 참여해야 한다"라고 말했다.

MS는 챗GPT 개발사 오픈AI와 AI 분야에서 협력하고 있는 대표적인 기업이다. 나델라 CEO의 이번 발언은 AI 시대 속 긍정적인 결과뿐만 아니라 위협 요인을 사전에 대비해야 한다는 취지로 읽힌다.

오픈AI 또한 공감대를 표했다. 안나 마칸주 오픈AI 국제 부문 부사장은 다보스포럼을 계기로 열린 블룸버그 주최 행사에서 "미 국방부와 협력해 오픈소스 사이버 보안 도구를 개발 중"이라고 밝혔다. 구체적인 이유와 진행 상황을 공개하지 않았지만, 최근 오픈AI 이용 약관에 '군사 사용 전면 금지' 조항을 삭제한 점을 언급하기도 했다. 군사 분야에서 AI 기술을 활용할 길을 연 셈이다.

미국 대표 은행 JP모건체이스도 AI가 양날의 검이 된 만큼 사이버 보안 문제가 커지고 있다고 강조했다. 메리 캘러핸 어도스 JP모건 자산관리 부문 책임자는 "사기꾼(이하 사이버 범죄자)들은 더욱 똑똑해지고, 빨라지고, 교모해지고, 장난스러워지고 있다"라며 "(AI 기술로 인해) 사이버 보안은 앞으로 더욱 어려워질 것"이라고 전망했다.

기타 고피나트 국제통화기금(IMF) 수석 부총재 또한 해커들이 AI 기술을 활용하기 시작했다는 점에 주목했다. 그는 "해결 방안을 찾기 전 엄청난 사건이 일어날 가능성도 있다"라고 말했다. 사이버 범죄자들이 빠르게 AI 기술을 습득하고 있는 만큼, '소 잃고 외양간 고치기'가 아닌 사전 대응 체계를 마련해야 한다는 취지다.

이러한 위기감은 총회 일정에 맞춰 공개된 다보스포럼 보고서에서도 확인할 수 있었다. 21일 다보스포럼이 발표한 '글로벌 위험 리포트 2024'에 따르면 전 세계 전문가 1490명 중 39%(복수 선택)는 '사이버 불안'이 커지고 있다고 답했다. 현재 위협 요인을 심각성 순위로 나눠봤을 때 '사이버 공격'은 5위(39%)를 차지했다.

때문에 AI에 대한 국가 차원의 대응 체계가 필요하다는 의견도 나왔다. 안토니오 구테흐스 유엔(UN) 사무총장은 이번 총회 연설에서 AI가 인권, 개인정보 보호, 사회에 제기하는 위험 요인이 늘어나고 있다며 "정부는 AI 개발에 대한 위험 관리 프레임워크를 구축하고, 기술 기업과 협력해야 한다"라고 말했다.

브래드 스미스 MS 부회장은 "AI, 개인정보 보호, 사이버 보안, 디지털 안전, 아동 보호, 소비자 보호 등에 적용되는 다양한 법률이 전 세계에 존재하고 있다"라며 "여러 국가가 (각 법안에 대해) 대화하고 배우고 있다는 점은 고무적"이라고 밝혔다.

국제 가이드라인과 표준에 대한 필요성도 제기됐다. 조세핀 테오 싱가포르 통신정보부 장관은 "결국 국제 규칙이 있어야 한다"라며 "우리는 개인을 보호한다는 이념을 지키며 국가 안보 조치와 균형을 이루고 싶다"라고 말했다. 스미스 부회장도 "분단된 세계에서도 보편적으로 공유되는 가치가 있다"라며 "그 어떤 정부도 기계가 다음 전쟁을 시작하는 것을 원하지 않을 것"이라고 강조했다.