[디지털데일리 김보민기자] 인공지능(AI) 시대를 맞이한 기업들의 속내가 복잡해지기 시작했다. '업무 효율화'라는 목표 아래 AI 기술을 도입하기는 했지만, 예상하지 못한 취약점이 발견되면서 보안 울타리를 강화할 새 전략이 필요해졌기 때문이다.

최근 머신러닝운영(MLOps)이 화두로 떠오른 이유다. MLOps는 모델을 설계·개발하는 과정에서 기대한 성능을 유지하기 위해, 운영 단계에서 지속적으로 검증 작업을 진행하는 방식을 뜻한다. 데이터 오염 및 유효성 여부도 확인이 가능하다.

안랩은 AI 시대에 발맞춰 기업이 운영 단계에서 보안을 강화하도록 지원하고 있다. 최광호 안랩 클라우드사업본부장은 13일 서울 서초구 엘타워에서 열린 <디지털데일리> 주최 '클라우드 드리븐 인프라 & 솔루션 2024 컨퍼런스'에서 "MLOps에서 가장 중요한 요소는 검증"이라며 "모델이 기존 성능을 유지할 수 있는지, 보안 측면에서 문제가 없는지 등 주요 사항을 모니터링을 할 필요가 있다"라고 밝혔다.

모델 운영에 영향을 주는 대표적인 변수는 ▲속도 ▲성숙도 ▲자동화 등 세 가지다. MLOps는 지속적 통합(CI), 지속적 배포(CD), 지속적 훈련(CT), 지속적 모니터링(CM) 등 네 가지 요인으로 이러한 변수를 관리할 수 있다. 특히 사람 손길 없이 보안 시스템과 체계를 운영하는 CT 및 CM의 중요성이 커지고 있다.

현재 MLOps를 구현할 대표 도구(툴)로는 ML플로우(MLflow), 큐브플로우(Kubeflow), 텐서플로우(Tensorflow) 등이 있다. 최 본부장은 "내부 조직이 어떤 역량을 가지고 있고 있느냐에 따라 툴을 선택할 필요가 있다"라고 설명했다.

다만 이러한 도구를 도입해 모델을 운영하고 있다는 사실만이 다가 아니라고 강조했다. 데이터, 알고리즘, 모델 최적화 측면에서도 지속 검증이 필요하고, 조직 내 확장성 수준, ML 모델 복잡성, 커스터마이징 등 주요 요소와 도입한 툴이 얼마나 시너지를 내느냐가 관건이라는 것이다. 보안 자동화를 통해 모니터링을 효율화하는 작업도 필요하다.

특히 AI 시대에 새로운 위협 요인이 늘어났고 클라우드 보안이 까다로워지고 있다는 점을 고려했을 때 운영 모니터링은 선택이 아닌 필수가 될 전망이다. 최 본부장은 "모델에 입력되면 데이터에 악의적인 공격이 들어오는지 모니터링하지 않으면 AI 모델 자체가 삭제되거나 학습 내용이 변경될 수 있다"라며 "모델 자체를 유출할 수 있고, 코드 인젝션으로 공격을 가할 가능성도 있다"라고 말했다.

이러한 분위기 속 안랩은 API, 생성형 AI, 문서, 플러그인 및 툴 분야에서 조직 별로 발생할 수 있는 요인뿐만 아니라 인프라 측면에서도 보안 구현을 지원하고 있다고 설명했다. 세부적으로 프롬프트 인젝션, 예민 데이터 관리, 데이터 최적화, 멀웨어 탐지 등을 관리하되 거시적인 측면에서도 해당 요인을 종합 관리하는 생태계를 구축했다는 설명이다.

최 본부장은 "애플리케이션을 만들어 구동한다고 해도 전체에 대한 보안(시큐리티)를 고려하지 않는다면 의미가 없다"라며 "데이터 유효성과 오염 여부 등을 보장하기 위해 인프라 보안까지도 마지막까지 확인해야 한다"라고 말했다.

끝으로 최 본부장은 "AI 여정은 물론, 정보기술(IT) 여정에는 정답이 없다다"라며 "적절한 거버넌스거 있다면 보안 자동화와 지속적인 모니터링을 통해 AI 관련 내용을 복구할 수 있다"라고 발표를 맺었다.