[IT전문 미디어 블로그=딜라이트닷넷] '무엇이든 뚫으려는 창과 무엇이든 막으려는 방패, 승자는?'

2022년 챗GPT가 등장한 이후 약 2년의 시간이 흘렀다. AI 시대가 도래했다는 평가도, 생성형 AI 서비스를 사용할 때 환각현상(이하 할루시네이션)이 문제라는 말도 더 이상 새로운 사실이 아니게 됐다. AI가 가져올 변화에 대한 장밋빛 전망과 회의론 또한 여전히 팽팽히 맞서는 분위기다.

AI 기술이 발전할수록 '창과 방패의 싸움'이 계속될 것이라는 예측 또한 현실이 되고 있다. 사이버보안 분야에서 공격자는 AI를 활용해 위협 난도를 높이고 있고, 방어자는 AI 기술로 보안 울타리를 강화할 방법을 찾기 위해 동분서주하기 시작했다. AI 기술로 탄생한 공격은 AI 보안으로 막아야 한다는 공식을 내세우는 기업도 있다.

글로벌 시장에서도 생성형 AI 활용이 늘어나면서 사이버 공격을 대응하기 까다로워졌다는 데 공감대가 커지고 있다. 시장조사업체 가트너는 '2024년 사이버보안 트렌드' 보고서를 통해 "생성형 AI의 등장으로 새로운 압박이 발견됐다"고 명시하기도 했다.

공격자가 AI를 활용하는 방식은 간단하면서도 단계적이다. 먼저 사용자를 대상으로 '속임수'를 꾀할 수 있다. AI 기술이 가장 흔히 사용되는 영역은 피싱으로, 주로 사용자 맞춤형 이메일을 제작하는 데 활용된다. 유명 회사나 브랜드를 사칭해, 실제 공식 문서처럼 위장 메일을 작성해 보내는 경우도 일상이 됐다. 이용자를 피싱 사이트로 유도하는 것 또한 어렵지 않게 됐다는 의미다.

최근 국내에서 화두로 떠오른 이미지합성기술(이하 딥페이크)도 마찬가지다. 도릿 도르 체크포인트소프트웨어테크놀로지스 최고기술책임자(CTO)는 최근 외신을 통해 "AI는 개인과 조직을 속이는 데 활용될 수 있고, 미디어 콘텐츠를 조작하는 딥페이크를 만드는 데 쓰일 수도 있다"고 경고했다.

공격자는 사용자를 속인 다음에는 실제 '공격 전술'에 AI를 활용한다. 악성코드를 제작하는 것이 대표적이다. 실제 올해 5월에는 일본에서 AI를 활용해 컴퓨터 바이러스 랜섬웨어를 제작한 20대 남성이 경찰에 체포되기도 했다. 랜섬웨어는 말 그대로 사용자 데이터와 시스템을 암호화한 뒤 몸값을 요구하는 악성코드인데, 당시 이 남성은 자신의 PC와 스마트폰을 통해 AI 서비스에 랜섬웨어 제작에 필요한 정보를 물어본 것으로 확인됐다.

최근 생성형 AI를 사용하는 개인과 기업이 늘어난 만큼, 해당 서비스의 취약점을 악용하는 경우도 늘고 있다. AI 오픈소스를 활용했거나 관련 기술 적용을 갖춘 기반시설, 클라우드 인프라, 소프트웨어(SW) 공급망을 공격하는 것 또한 공격 트렌드로 떠오르고 있다.

이에 방어자 입장에서도 AI 방패를 강화하는 작업이 이어지고 있다. AI 기술로 위협 탐지를 자동화하는 것이 핵심이다.

대표적으로 팔로알토네트웍스는 '프리시전 AI'를 필두로 기업이 보안을 강화할 수 있는 방법을 제시하고 있다. 프리시전AI는 머신러닝, 딥러닝, 생성형 AI 기술을 탑재해 기업 내 보안 역량을 강화하는 역할을 한다. 과거와 현재 데이터를 기반으로 새로운 상황을 예측하고, 보안 애플리케이션이 문제를 예방하고 해결하도록 돕는다. 생성형 AI는 위협인텔리전스를 요약하고 평균해결시간(MTTR)을 단축하는 데 활용된다.

특정 위협에 특화된 서비스를 선보인 기업도 있다. 일례로 트렌드마이크로는 딥페이크 및 AI 기반 사이버 공격 차단 기술을 발표한 바 있다. 딥페이크 탐지 기술은 AI가 생성한 가짜 콘텐츠를 찾아내고, 즉시 담당 보안 팀에 알림을 전송해 사전 조치를 취하도록 돕는다. 실시간 화상대화에서 딥페이크가 사용되고 있는지도 확인이 가능하다.

국내에서도 움직임이 거세지고 있다. 대표 AI 보안 기업으로 거론되는 이글루코퍼레이션의 경우, 하이브리드 기반 서비스 모델 '에어(AiR)'를 통해 보안 담당자가 활용할 수 있는 AI 탐지 서비스를 제공하고 있다. 어떤 기준에 따라 특정 행위를 이상 혹은 정상으로 탐지했는지 알려주고, 기존 콘텐츠를 학습해 새 인사이트를 만들어내는 것도 가능하다.

한편 사이버보안 시장 내 창과 방패의 싸움은 당분간 거세질 것으로 보인다. 가트너에 따르면 아시아태평양 지역에서 발생할 보안 지출은 올해 약 280억달러에 달할 전망인데, 현재 기업 24%만 생성형 AI와 관련해 보안 조치를 취하고 있는 것으로 알려졌다.