[IT전문 미디어 블로그=딜라이트닷넷] 디지털 혁신이 가속화되는 가운데 기업들의 AI 에이전트 도입 관심이 급증하고 있다. 단 AI 에이전트는 새로운 기회를 제공하는 동시에 보안 위협을 초래할 수 있어 체계적 보안 전략이 필요하다는 지적이 나왔다.

가트너가 지난 1월 AI 에이전트 관련 웨비나에 참석한 3412명 응답자 대상으로 설문조사를 실시한 결과, 응답자 64%는 향후 1년 내 AI 에이전트 관련 이니셔티브를 추진할 계획이라고 밝혔다. 이 중 40%는 6개월 내 도입을 시작할 예정이라고 응답했다.

이처럼 빠르게 확산되는 AI 에이전트 기술에 대해 가트너는 “AI 기술을 사용해 디지털 또는 물리적 환경에서 인식하고, 결정을 내리며, 행동을 취하는 자율적 또는 반자율적 소프트웨어”로 정의하고 있다.

그러나 이러한 기술 혁신엔 새로운 보안 과제가 따라온다. 가트너는 2029년까지 AI 에이전트를 대상으로 한 사이버 공격 절반 이상이 접근 제어 취약점을 이용할 것이며, 그 중에서도 직접 또는 간접적인 프롬프트 인젝션이 주요 공격 방식이 될 것으로 전망했다.

AI 에이전트가 가진 근본적인 보안 문제는 크게 두 가지다. 먼저 AI 에이전트는 사용자 권한을 그대로 가져가는 경향이 있고, 사용자와 달리 논리적 보안 정책을 따를 내재적 동기가 부족하다는 점이다. 또한 AI 에이전트 행동은 확률적 성격을 띠기 때문에 예측이 어렵다는 특성도 있다.

특히 주목할 만한 위험은 다중 에이전트 시나리오에서 발생하는 직무 분리 문제다. 여러 AI 에이전트가 협력할 때 권한이 과도하게 집중될 수 있으며, 이는 권한 상승이나 권한 오용으로 이어질 수 있다. 가트너 보고서는 라이선스 비용 때문에 기업들이 적은 수의 에이전트에 더 많은 권한을 부여하는 경향이 있다고 지적했다.

이러한 위험에 대응하기 위해 가트너는 여러 보안 전략을 제시했다. 우선 트래픽 검사, API 호출 모니터링, 코드 저장소 분석 등을 통해 조직 내 AI 에이전트를 철저히 파악하고 관리해야 한다. 소프트웨어 개발 및 제품 팀과 긴밀한 협력도 필수적이다. 복잡한 다중 에이전트 환경에서는 속성 기반 또는 정책 기반 접근 제어 모델 도입을 고려할 필요가 있다.

개발 단계에서부터 보안을 강화하는 것도 중요하다. 버전 관리, 공급망 보안에 특별한 주의를 기울여야 하며, 오케스트레이션 및 에이전트 메모리 조작과 같은 새로운 유형의 위협에 대응하는 위협 모델링도 구현해야 한다.

보안 테스트 단계에서도 이전과 다른 접근이 필요하다. AI 에이전트 비결정적 특성 때문에 전통적인 보안 테스트 방식에는 한계가 있기 때문이다. 가트너는 ‘AI로 AI를 방어하는’ 접근 방식을 제안하며 AI 에이전트를 활용해 다른 AI 에이전트의 보안을 테스트하는 방법이 효과적일 수 있다고 분석했다.

가트너는 “AI 에이전트에 대한 보안 전략을 수립할 때 기업은 에이전트의 수준, 자율성, 커스터마이제이션 정도에 따라 차별화된 접근 방식을 적용해야 한다”며 “기업 자산과 데이터를 보호하면서도 조직이 AI 에이전트를 효과적으로 배포할 수 있도록 하는 균형 잡힌 보안 접근법이 성공의 열쇠”라고 설명했다.