<디지털데일리>가 주최하는 [AI WAVE 2024]가 오는 5월 9일, 서울 롯데호텔의 사파이어 볼룸에서 열립니다. 이번 행사의 주제는 ‘산업별 AI 혁신과 도전과제’로, 인공지능 기술이 여러 산업 분야에 미치는 영향과 이로 인한 시장 변화를 심도 깊게 다룰 예정으로 <디지털데일리>는 행사에 앞서 AI 기술의 현 주소와 각 산업별 도입 사례 등을 조망하는 기획기사를 연재합니다.<편집자>

[디지털데일리 김보민기자] "북한이 사이버 공격에 인공지능(AI)을 사용하기 시작한 것은 아직 초기 단계라고 볼 수 있습니다. 상용화 기술을 활용하는 수준인데, 추후 북한만의 생성형 AI를 만들 가능성도 있습니다."

올해 1월, 국가정보원(이하 국정원)은 사이버 공격 현황을 공유하는 자리에서 이런 말을 했다. 북한발 공격 강도가 거세졌다는 이야기는 공공연한 사실이지만, AI 기술이 조수 역할까지 하고 있다는 발표는 이례적이었다.

약 3개월이 흐른 지금, 북한발 AI 공격은 현실이 된 모양새다. 주요국을 대표하는 사이버 공격자들처럼 북한 또한 생성형 AI로 작업 효율을 높이기 시작했고, 글로벌 조사단체에서도 이러한 양상을 경고하는 보고서를 발표하고 있다. 북한뿐만 아니라 중국에서도 유사 공격 양상이 드러나면서, 범세계 차원에서 대응이 필요하다는 목소리가 커질 전망이다.

◆ 北 해커도 우리랑 똑같네…'AI 조수' 활약 늘었다

최근 공개된 글로벌 보고서에 따르면 북한 사이버 조직은 AI, 특히 생성형 AI를 활용해 공격을 가하고 있다. 사용 방식은 간단하다. 일반인이 챗GPT에 궁금한 정보를 물어보고 긴 글을 요약해 달라고 요청하는 것처럼, 북한 조직 또한 상용화된 거대언어모델(LLM)과 AI 도구로 공격 작업을 단순화하는 데 초점을 두고 있다.

마이크로소프트(MS)가 이달 공개한 '같은 표적, 새로운 전술: 동아시아 위협 행위자, 독특한 방법을 쓰다' 제목의 보고서에 따르면, 북한은 허위 메일이나 피싱 문자를 작성할 때 AI를 활용했다. 북한 대표 해킹조직 김수키도 마찬가지였다. 김수키는 불특정 다수가 아닌 조직이나 개인을 대상으로 정체를 숨겨 접근하는 스피어피싱에 AI 조수를 소환했다. 스피어피싱 메일을 쓰거나 공격 과정에서 생기는 기술적 문제를 해결하는 방식이었다.

보고서는 "북한 공격자도 AI 시대에 적응하고 있다"며 "MS는 에메랄드 슬릿(김수키의 또 다른 이름)과 관련된 계정 및 자산을 비활성화하기 위해 오픈AI와 협력했다"고 말했다. 오픈AI는 챗GPT 개발사로, 북한발 사이버 공격을 파악하는 데 힘을 보태고 있다.

이러한 정황이 포착된 것은 이번이 처음이 아니다. 올 초에도 김수키는 북한 싱크탱크와 전문가를 대상으로 학술기관이나 비정부단체(NGO)를 사칭해 이들이 북한 외교 정책에 논평을 하도록 유도했다. 사칭은 생성형 AI가 활약할 수 있는 대표적인 악의 행위이다. 김수키 또한 사칭 메일이나 연락을 가할 때 챗GPT와 같은 AI 도구를 활용했을 가능성이 있다.

아직까지 AI 기술은 공격 강도를 높이는 역할까지는 하지 못하고 있지만, 추후에는 파급력이 커질 수 있다는 관측도 나온다. 북한발 공격이 대부분 개인이나 조직이 아닌 국가 배후일 가능성이 크기 때문이다. 현재는 초안 작성이나 사칭을 하는 수준이지만 추후에는 신상 정보를 탈취하는 등 핵심 작업에 투입될 수도 있다. 이미 악성코드를 만드는 데 AI가 역할을 하고 있다는 진단도 나온다. 크라우드스트라이크는 이달 보고서를 통해 "(사이버 범죄 집단의) 공격 수법은 빠르게 진화해 클라우드와 신원 정보를 활용하는 단계까지 이르렀다"며 "AI는 공격자가 위협 행위를 정교하게 만들 수 있도록 도울 것"이라고 강조했다.

◆ "진짜야 가짜야?" AI 활용 확산, 대응은?

일각에서는 북한이 '지구촌 선거의 해'라고 불리는 올해 AI 활용 공격을 본격화할 수 있다는 전망도 제기된다. 이는 비단 북한만의 문제는 아니다. 중국을 비롯한 주요 사이버 공격자 또한 경우 지정학적 표적 범위를 넓히는 대신 AI로 위협 강도를 높이는 데 주력하고 있다. 아시아 지역에서는 주로 한국을 비롯해 일본, 대만 등이 표적이 되고 있다.

특히 딥페이크(이미지 합성 기술) 콘텐츠를 생성하는 방식으로 AI 공격을 고도화할 수 있다는 관측도 나온다. 실제 딥페이크는 약 7년 전 주목을 받기 시작했을 때와 대비해 AI로 기술 발전을 이룬 상태다. 이전에는 전문가의 손길이 필요했거나 전용 프로그램을 활용해야지만 딥페이크 영상 생성이 가능했다면, 이제는 AI로 일반인 또한 손쉽게 작업이 가능해진 것이다.

실제 올 초 유튜브와 같은 온라인 플랫폼에 김정은 북한 국무위원장이 웃는 얼굴로 핵 단추가 떠오르는 빨간 버튼을 누르려는 사진이 게재됐고, 블라디미르 푸틴 러시아 대통령과 통화를 하는 조작 영상이 올라오기도 했다. 해당 사진과 영상의 배후는 밝혀지지 않았다. 이 밖에도 목소리를 덮어 씌워 실제 김정은 국무위원장이 이야기하는 것 같이 꾸민 영상도 볼 수 있다.

범세계적인 차원에서 대응이 필요하다는 지적이 나오는 이유다. 미국과 유럽연합(EU)을 중심으로 사이버 안보가 곧 국가 경쟁력이라는 구호에도 힘이 실리는 분위기다.

한국도 이러한 흐름에 동참한 상태다. AI 기술을 활용해 가짜뉴스와 범죄를 가하는 이들을 막아내기 위해 체계를 강화하겠다는 의지를 피력 중이다. 그 일환으로 윤석열 대통령은 지난 3월 민주주의 정상회의에서 "보편 가치를 공유하는 민주주의 국가들이 연대해 가짜뉴스에 함께 대응하자"고 제안했다. 올 2월 국가사이버안보전략을 통해 미국과의 연대를 강조하며, 사이버안보법으로 대응 체계를 정비할 필요가 있다는 내용을 포함하기도 했다.