[디지털데일리 김보민기자] 클라우드플레어가 인공지능(AI) 애플리케이션 악용을 방지할 종합 솔루션을 공개했다.

클라우드플레어는 가시성·보안·제어에 특화된 'AI용 클라우드플레어(Cloudflare for AI)'를 출시한다고 24일 발표했다. AI용 클라우드 플레어는 부적절한 툴과 유해 프롬프트, 개인식별정보(PII) 유출, 신규 취약점 등 AI 모델이 직면한 위협으로부터 조직을 보호하는 데 특화돼 있다.

특히 잠재 위협으로부터 기업 AI 모델을 보호하는 것이 특징이다. 클라우드플레어에 따르면 새 솔루션은 AI 애플리케이션을 식별할 수 있다. 기업 최고정보보호책임자(CISO)는 전체 네트워크에 걸쳐 AI 사용을 보호하는 역할을 하는데, 보안팀에서 AI가 어디에 사용되고 있는지 파악하지 못해 가시성이 부족한 경우가 많다. 클라우드플레어 AI용 방화벽은 AI 애플리케이션을 검색하고 표시(레이블)를 지정할 수 있도록 돕는다. 보안팀은 검색 후 필요한 조치를 검토하고 실행할 수 있다.

이 밖에도 직원과 팀의 AI 사용 방식을 모니터링하고 관리하며, 직원과 사용자가 민감 정보를 유출하지 않도록 방지하는 역할을 한다. 조직이 데이터를 유출하는지 여부를 식별하고 추가 피해가 발생하기 전에 경고 및 잠재 차단이 가능하도록 돕는 방식이다. AI 애플리케이션에 대한 무단 접근(액세스)을 차단하고 공격을 중지할 수도 있다. 트래픽 라우팅 및 부하 분산도 가능하다.

기존 제품군도 고도화 작업을 마쳤다. 클라우드플레어 AI 게이트웨이는 '라마 가드(Llama Gaurd)'와 통합돼, 관리자가 유해 프롬프트를 차단하는 규칙을 설정하고, 의도된 용도에 따라 모델 무결성을 유지할 수 있도록 지원한다. 클라우드플레어 워커스 AI는 보안이 내장된 상태에서 사용자가 AI 솔루션을 구현하도록 지원한다.

한편 AI용 클라우드플레어에 포함된 모든 제품은 정식 출시를 완료해, 누구나 사용이 가능하다.

매튜 프린스(Matthew Prince) 클라우드플레어 최고경영자(CEO) 겸 공동 창업자는 "향후 10년 동안 조직의 성패는 AI 전략에 달려있고, 혁신하는 기업은 번창하고 변화에 저항하는 기업은 도태될 것"이라며 "그러나 대부분의 경우 실험과 보안이 별개로 이루어지고 있다"고 진단했다. 이어 "AI용 클라우드플레어는 AI를 신속하게 도입 및 활용할 수 있도록 보호 장치를 마련해, 고객이 원하는 방향으로 혁신하도록 지원한다"며 "혁신의 속도를 늦추지 않으면서 보안 문제를 해결하는 최적의 솔루션"이라고 강조했다.