[디지털데일리 김보민기자] 인공지능(AI) 기술을 도입하려는 움직임이 빨라지면서, 보안 체계에 대한 중요성 또한 커지고 있다. S2W는 자사 AI 플랫폼에 방어 체계를 더해, 사용자가 안전하게 관련 기능을 활용할 수 있도록 돕고 있다.

S2W(대표 서상덕)는 기업용 생성형 AI 플랫폼 'SAIP'에 시큐리티 가드레일을 구현한다고 19일 밝혔다.

SAIP은 S2W가 보유한 AI 기술과 데이터 처리 노하우를 바탕으로, 고객의 보안 요구 수준에 맞춰 제로트러스트 기반 설계로 구현한 플랫폼이다. 해당 기업의 도메인에 특화된 거대언어모델(LLM) 및 지식그래프 기술을 접목하고, 각 산업 특성과 기업 사용 목적을 고려해 사용자 질문에 근접한 사실 기반 답변과 데이터를 제공할 수 있다.

LLM은 조직 내 데이터 운영 효율성과 생산성을 높이고 있지만, 동시에 데이터 유출과 조작 등 문제도 촉발하고 있다. 생성형 AI 도입으로 인해 발생하는 보안상 문제점을 방어할 수 있는 기술 수요가 증가하고 있는 이유다.

글로벌 시장에서도 보안을 배제한 AI 기술은 무의미하다는 목소리가 커지고 있다. 미국 등 주요국을 중심으로 'AI 리스크 서밋' 등 관련 글로벌 행사가 매해 쏟아지고 있는 이유도 마찬가지다.

S2W는 SAIP에 시큐리티 가드레일을 적용해 기업 내부 데이터를 보호하고, 보안 위협을 대응할 수 있다고 강조했다. 시큐리티 가드레일은 LLM 개발, 배포, 운영 과정에서 보안성과 신뢰성을 확보하기 위한 방어 체계다.

S2W는 시큐리티 가드레일을 플랫폼 안에 구현해 AI 모델 학습에 사용되는 데이터 세트를 검토하고 민감 정보를 제거하는 검증 및 정제 과정을 거쳐, 정보 유출 위험을 최소화할 수 있다고 설명했다. 아울러 LLM 취약점을 공략해 AI 모델이 주어진 프롬프트에 대해 잘못된 방식으로 반응하도록 유도하는 '프롬프트 인젝션'을 방지하는 역할도 수행한다.

서상덕 S2W 대표는 "시큐리티 가드레일을 포함해 조직 내부 데이터의 안정적인 운용을 가능케 하는 다양한 기술들을 지속적으로 개발하고 고도화하며, 고객들이 데이터와 AI의 활용 가치 및 유익성을 극대화할 수 있는 안전한 환경을 구축해 나갈 것"이라고 말했다.