[디지털데일리 신현석기자] 보안 영역에 머신러닝 및 딥러닝 도입이 활발해지고 있으나, 새로운 보안 생태계에 적응한 해킹 공격도 동시에 늘어나고 있다. 이에 보안업계에서는 머신러닝 기반 솔루션의 잠재적 위험성을 인지해야한다는 신중론이 대두하고 있다.

국내 통합보안관리 전문 업체 이글루시큐리티(대표 이득춘)는 AI(인공지능) 솔루션이 현재로선 완벽하지 않으며, 이에 대한 준비를 철저히 해 잠재적인 위험성을 제거해나가야 한다고 주장한다.

지난 26일 쉐라톤 서울 디큐브시티 호텔 그랜드볼룸에서 열린 ‘[NES2018] 차세대 기업보안 세미나’를 통해 이글루시큐리티의 강대규 연구원<사진>은 우선 최근 보안업계에서 머신러닝 기반의 솔루션이 나오게 된 배경부터 설명했다

강 연구원은 “과거 악성 코드를 이용한 공격의 경우, 자동화된 틀을 통한 공격이다보니, 공격 패턴이 다양하지 않아 어느 정도 대응할 수는 있었다”며 “그러나 최근에 공격자들이 다양한 패턴을 보이면서, 보안에서도 머신러닝을 활용하게 됐다”고 설명했다.

지금까지 네트워크 침입 탐지에는 네트워크 트래픽 기반의 비정상 행위 탐지 방식이 사용돼왔다. 그러나 최근 복잡한 난독화 알고리즘으로 제작된 악성코드가 번지면서 새로운 보안 솔루션이 요구되고 있다. 이에 최근 몇 년 전부터 보안업계에서도 머신러닝 도입 바람이 불기 시작한 것이다.

강 연구원은 “먼저 활용된 분야는 네트워트 칩입 탐지 쪽”이라며 “알려지지 않은 공격의 경우 트래픽 정보에서 회사 정보나 IP 정보 등을 통해 특징을 추출하고 합성을 거쳐 기준선을 벗어나는지 아닌지, 비정상 트래픽인지 아닌지를 확인한다”고 설명했다.

예를 들어, 회사 출근 시간 이전 특정 부분에서 트래픽이 과도하게 오르면 머신러닝이 이를 비정상으로 인식하는 식이다.

머신러닝은 침입 탐지 뿐 아니라, 악성 코드 분석에서도 활용될 수 있다. 강 연구원은 “자동화된 솔루션에는 샌드박스가 구축돼 있으며 이를 통해 정보 유출, 시스템 파괴 등을 일으키는 악성코드를 판별한다”며 “샌드박스와 머신 러닝을 합하면 행위 정보 수집을 통해 특징을 추출하고 분류 기법 등을 통해 좀 더 의미있는 정보로 활용할 수 있다”고 설명했다.

머신러닝은 소프트웨어 취약점 분석에서도 활용될 수 있다. 구문트리 활용을 통해 프로그래밍된 패턴을 식별하고 머신러닝 학습으로 취약점을 발견할 수 있다.

다만, 머신러닝을 도입한 보안 솔루션이 완벽하다고만 볼 수는 없다. 해커들은 머신러닝의 약점을 찾아내 공격한다. 강 연구원은 “머신러닝과 인공지능, 딥러닝 등을 적용한 솔루션울 통해 보안의 질적인 부분만 좋아지면 좋겠으나, 이러한 솔루션의 취약점을 공격하는 해킹도 늘어나고 있다”고 우려했다.

해커들은 개발자 의도와 다르게 보안 솔루션의 머신러닝에 예상치 못한 학습을 시켜 공격하거나, 의도적으로 데이터 조각을 조작해 기계학습 모델이 분류를 잘못하도록 유도할 수 있다.

예를 들어, 공격자들은 신경망을 속이는 사진을 투입해 신경망의 필터링 시스템이 어떤 예측 결과를 내놓는지를 관찰한다. 신경망 결과가 잘못될 때까지 이미지 픽셀을 조금씩 조정하는 식으로 위 단계를 계속 반복한다. 이른바 ‘적대적 사례 제작’이다.

이 외, 공격자가 타겟이 된 신경망의 동작을 조사하면서 대체 신경망을 구성하고, 타겟 신경망을 미러링하는 공격 방법도 있다.

이런 공격에는 어떻게 대응해야 할까. 강 연구원은 “진행형 학습 데이터를 사용하는 것이 아직까지는 일반적인 방법”이라며 “조작된 데이터도 같이 학습시켜 디지털 공격에 저항성을 갖게끔 하는 것이다. 이를 다른 말로 ‘적대적 학습’이라고도 한다”고 말했다.

이어 “간혹 AI솔루션이 만능이라는 잘못된 인식을 가진 분들이 있다. 잠재적인 위협은 존재한다는 점을 인지하고 있어야 한다”며 “솔루션에게만 위임하는 것보다는 사람의 검증이 있는 프로세스에 이용해야 한다. 머신러닝이 아직 개발되는 단계이다 보니 현재로선 완벽하지 않은 부분을 인지하고 받아들여야 할 것”이라고 덧붙였다.

<신현석 기자>shs11@ddaily.co.kr


네이버 뉴스스탠드에서 디지털데일리 뉴스를 만나보세요.
뉴스스탠드


  • IT언론의 새로운 대안-디지털데일리
    Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
 
· [카드뉴스] 기업의 지속가능성 해법은 결국···
· [카드뉴스] B tv 서라운드, 거실을 영화관으로
· [이지크로] 안전하고 믿을 수 있는 에스크로
배너
  • 동영상
  • 포토뉴스
LG전자 ‘LG시그니처’, 에비앙 챔피언십… LG전자 ‘LG시그니처’, 에비앙 챔피언십…
  • LG전자 ‘LG시그니처’, 에비앙 챔피언십…
  • 고가폰부터 가성비폰까지, 노치 원조 ‘나’……
  • 애플, ‘아이폰XS·아이폰XS 맥스·아이폰X…
  • SKT-KT-LGU+, IoT 격돌…2018 IoT전…