[디지털데일리 김보민기자] 사이버 위협 인텔리전스(CTI) 전문 기업 샌즈랩이 인공지능(AI) 역기능에 대비한 체감형 플랫폼을 만든다.

샌즈랩(대표 김기홍)은 사이버 보안 특화 검색증강생성(RAG) 기반 경량화 거대언어모델(sLLM) 모델과 국민 체감형 플랫폼을 개발 중이라고 28일 밝혔다.

생성형 AI 역기능이란 AI 기술이 허위 정보 혹은 가짜 뉴스 생성, 저작권 침해, 딥페이크 생성, 사이버 범죄 악용 등을 악용하는 것을 뜻한다. 정부에서는 모든 국민이 안전하게 AI를 활용할 수 있도록 생성형 AI의 윤리적 활용을 위한 제도적 보완과 기술 개발에 노력을 기울이고 있다.

과학기술정보통신부와 정보통신기획평가원(IITP)은 AI 역기능을 억제하기 위해 사이버 보안에 특화된 RAG 기반 sLLM 모델 개발과 국민 체감형 플랫폼 구축을 과제로 총 100억원 규모 '정보보호 핵심 원천기술 개발사업'을 발주했다.

샌즈랩은 지난 4월 해당 사업을 수주했고 엘지유플러스, 포티투마루, 로그프레소, 한국과학기술원(KAIST)와 함께 공동 연구개발에 착수했다.

사업 핵심은 딥페이크, 보이스피싱, 음성 합성 등 AI 역기능 방지 기술과 구축형(온프레미스) 기반 sLLM 모델 개발을 목표로 한다. 생성형 AI 역기능으로 인한 피해를 최소화하고, 디지털 환경의 안정성 및 신뢰성 향상에 기여하는 것이 핵심이다. 정보 조회와 분석을 지원해 의사결정 지원 시간을 단축하고, 대화형 인터페이스 개발로 사용자 경험 중심 보안 서비스를 제공하는 것이 목적이다.

샌즈랩은 AI 모델을 개발하기 위한 필수 요건인 데이터셋을 페타바이트(Petabyte) 규모로 자체 보유하고 있다.

특정 분야를 식별하는 AI 모델이 필요한 수집 및 전처리된 데이터를 학습시켜 탐지 및 대응 통합 시스템으로서 활용할 수 있다는 의미다.샌즈랩은 AI 모델을 개발하기 위한 필수 요건인 데이터셋을 페타바이트(Petabyte) 규모로 자체 보유하고 있다. 특정 분야를 식별하는 AI 모델이 필요한 수집 및 전처리된 데이터를 학습시켜 탐지 및 대응 통합 시스템으로서 활용할 수 있다는 의미다.