[디지털데일리 이건한 기자] "최근 러시아-우크라이나 전쟁만 해도 인공지능(AI)이 적용된 드론이 '다윗의 돌팔매(작은 돌로 적 지휘관을 잡아낸 성경 속 비유)' 역할을 하고 있습니다. 이처럼 AI가 국가 분야에 적용되면서 군 작전 능력을 비약적으로 향상 중이지만, 오남용 피해도 초래될 수 있는 양날의 칼이기도 합니다. 이번 회의를 통해 책임 있는 군사적 AI 이용에 대한 국제적 협력 기반이 마련되길 바랍니다."

김용현 국방부장관은 9일 서울 롯데호텔에서 개최된 '2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의(REAIM 2024)' 개회사에서 이렇게 말했다. 네덜란드, 싱가포르, 케냐, 영국과 공동주최한 이번 행사에는 세계 90여개 국가 정부대표단을 포함한 2000여명이 참석해 1박2일 동안 군사 분야에서의 책임 있는 AI 활용에 필요한 논의를 진행하기 위해 마련됐다.

특히 본회의 첫 행사에는 ▲이영수 공군참모총장 ▲프레데릭 추 싱가포르 국방부차관보 ▲마이크 베일러 록히드마틴 데이터AI최고책임자 ▲사이드 알다헤리 두바이대 미래학연구소장 ▲폴 샤레 신미국안보(CNAS) 총괄부사장 겸 연구소장 등 민·관·학계의 주요 관계자들이 함께 'AI가 국제 평화와 안보에 미치는 영향'을 주제 삼아 전체 행사를 향한 화두를 던졌다.

이 자리에서 이영수 공군참모총장은 "러·우 전쟁을 비롯해 AI를 이용한 저비용 무기가 최근 몇 년 사이 다양하게 개발됐으며 AI 기반의 고유 군사시스템이 만들어지기도 했다. 이를 통해 적군에 대해 무기, 위치 등 보다 정밀한 적보를 식별할 수 있게 됐으며 무인기 운영이나 사이버 안보 분야에도 적용 가능하게 됐다"며 "현재 AI를 주도하는 국가들이 관련 능력을 적극적으로 확대 중이다. 중요한 건 이 과정에서 전쟁 양식과 방식이 완전히 바뀔 것이며, 국제적 협력과 준비 없이는 인류에게 큰 위협이 될 것이기에 (군사적 AI의 평화적 사용) 이런 논의가 필요한 시기"라고 말했다.

산업계의 민간 대표격으로 참여한 록히드마틴의 마이크 베일러도 국제적 논의의 중요성을 강조했다. 그는 "록히드마틴은 자체적인 AI 작전 시스템을 개발했고, 미국 국방부와도 협력해 5개의 AI 윤리원칙을 마련해 지속 가능성과 신뢰성 유지에 노력하고 있다"며 "국제적으로도 공통적, 상식적인 가이드라인을 내놓는 노력이 필요하다. AI가 빠른 속도로 발전하는 만큼 대응책에 대한 지속적 업데이트는 물론이고 군사 분야 고객사 교육 및 정책 입안자들이 'AI로 할 것과 하지 않을 것'에 대한 이해를 갖추도록 조치하는 것도 필요하다"고 말했다.

프레데릭 추는 "1990년대 군의 디지털화에서 한단계 나아가 오늘날 AI는 단순 정보연결을 떠나 인지적 요소가 더해졌다는 점이 큰 차별점"이라며 "지금 군 AI는 자체적으로 정보를 평가 및 분석하고 의사결정자를 대신할 수 있게 된 점이 놀라운 점이다. 하지만 이는 누군가의 생과 사에 영향을 미치며 AI의 잘못된 의사결정은 심각한 결과를 초래할 수 있다"고 말했다. 이어 "이제는 군사관계자들 뿐 아니라 빅테크 기업들과도 대화하며 우리가 더 안전해질 수 있는 AI에 대해 본질적 대화가 필요한 시점"이라고 덧붙였다.

알다헤리 두바이대 미래학연구소장은 군사적 AI 활용이 가져올 책임론과 국가적 갈등 가능성을 짚었다. 그는 "앞으로 자율무기 시스템, 이른바 킬러 로봇이 인간의 참여나 개입 없이도 전투가 가능해지는 시대가 온다. 이때 무기의 살상 결과물을 두고 누가 책임질 것인가? 이로 인한 국가간 분쟁이나 갈등, 군비경쟁은 더욱 고조될 것"이라면서 "이때 가이드라인 제정도 바람직하지만 말은 쉽고, 행동은 어렵다. 실제로 어떻게 이행하도록 만들 것인지도 중요한 문제"라고 지적했다.

폴 샤레 CNAS 총괄부사장은 군사용 AI의 정밀한 트레이닝도 중요하다고 봤다. 그는 "어쩌면 AI가 전쟁터를 조금 더 인간적으로 만들 수도 있다. 가령 AI로 상대가 든 것이 무기인지 삽인지 식별하도록 하고, 또는 상대가 전투요원인지 주변 민간인에 미칠 피해는 어느정도인지도 판별하도록 만들 수 있을 것"이라며 "인간은 AI 활용으로 인해 초래될 결과에 대한 책임성을 포기하지 말아야하기 때문"이라고 강조했다.

이밖에도 참석자 모두가 군사적 AI 활용의 양날성을 언급하며, 올바른 활용 방향성 제정이 중요하다고 입을 모았다. 이와 관련해 추 싱가포르 국방차관보는 "사람들에게 (군사적 AI를) 쓰지 말라고 제안하는 건 답이 될 수 없다. 군사적 AI 이용에 대한 책임, 그 가운데 인간은 무엇을 판단할지, 또한 모든 부분을 AI 개발측이 책임질 수 있도록 해야 할 것"이란 생각을 밝혔다. 샤레 부사장 또한 "모든 선택권은 인간에게 있다. AI가 굉장히 많은 것을 할 수 있지만, 스스로 규범을 정할 수 없으며 그 일은 우리가 직접 하는 것임을 기억해야 한다"고 강조했다.