네이버클라우드 “AI시대 최강보안 ‘동형암호’, 기술력으로 한계 극복”

실시간
뉴스

e비즈*솔루션

네이버클라우드 “AI시대 최강보안 ‘동형암호’, 기술력으로 한계 극복”

디지털데일리 발행일 2025-01-22 14:13:00

권하영 기자

URL복사

[인터뷰] 네이버클라우드 최현민 수석연구원

[디지털데일리 권하영기자] 인공지능(AI)의 발전은 필연적으로 보안 기술의 필요성을 부각한다. 근래 AI를 활용한 사이버위협이 진화하면서 이를 막을 차세대 보안 기술들도 큰 주목을 받고 있다. 그 중 하나가 바로 ‘동형암호’다.

동형암호는 데이터를 암호화한 상태에서 연산할 수 있게 하는 기술이다. 데이터의 주인이 원하지 않으면 복호화 자체가 일어나지 않기 때문에 유출 위험을 원천 차단한다. 막대한 데이터를 연산해야 하는 AI 머신러닝에 그야말로 최적인 보안 기술이다.

최근에는 AI 도입을 위해 대량 연산 처리가 가능한 클라우드 전환이 확산되고 있는 만큼, 기업들은 특히 클라우드에 최적화된 동형암호 기술을 필요로 하고 있다. 이와 관련해 국내 클라우드서비스제공사(CSP) 중에서는 가장 먼저 네이버클라우드가 2021년 세계 최초로 클라우드향 동형암호 서비스를 개발, 기술 상용화의 신호탄을 쐈다.

최근 경기 성남시 분당구 본사에서 <디지털데일리>와 만난 네이버클라우드 보안기술개발부문 최현민 수석연구원은 이와 같이 클라우드 환경에 최적화된 동형암호 기술 선도를 자신했다. 지난 2021년 회사에 합류한 최 수석연구원은 네이버클라우드에서 동형암호를 비롯한 보안 신기술 개발과 연구를 주도해온 인물이다.

최 수석연구원은 “연산이 무겁다는 단점을 기술력으로 이겨낼 수 있다면 동형암호는 안 쓸 이유가 없는 최강의 암호 기술”이라며 “동형암호는 연산량이 많기 때문에 연산 효율이 좋은 클라우드 서비스화에 대한 니즈가 큰데, 개인정보를 제3자 서비스에 올려야 하는 부담을 동형암호 기술로 상쇄할 수 있다”고 설명했다.

그가 언급한 대로 동형암호 기술은 데이터 유출 위험이 없는 차세대 보안 기술로 꼽히지만, 암호화 상태에서 수식을 계산해야 하다보니 평문 상태에서 연산하는 것보다 속도가 수백배 느리다는 점 때문에 실제 상용화로 이어지기에는 한계가 있었다. 게다가 연산 종류에 따라 속도차도 커서 개별적으로 최적화가 필요했다.

이에 최 수석연구원이 속한 보안기술개발부문은 지난 2023년 7월부터 성균관대학교 보안공학연구실과 산학협력 연구(‘프라이버시 보존이 가능한 데이터 통계분석 기술과 클라우드 환경에서 연산 속도 향상에 최적화된 동형암호 기술 연구’)를 수행, 새로운 동형암호 프레임워크인 ‘히고(Hego)’를 개발하는 데 성공했다.

‘히고’는 통계연산과 머신러닝 등 다양한 분석에 동형암호를 손쉽게 적용할 수 있는 프레임워크다. 고(Go)언어의 병렬처리에 대한 강점을 활용해 연산 효율성을 극대화함으로써 동형암호의 느린 암호화 및 연산 속도를 극복했다. 특히, 이미지 처리에 특화된 딥러닝 모델인 CNN(Convolutional Neural Network, 합성곱 신경망) 추론의 경우 파이썬(Python) 기반으로 구현된 최신 모델 대비 10배 이상의 성능 향상이 있었다.

최 수석연구원은 “동형암호는 연산 자체가 평문 연산보다 훨씬 시간이 많이 걸려서 아무리 좋은 서버에 최적화해도 느릴 수밖에 없었다”며 “클라우드 환경의 장점인 고사양 서버와 병렬처리 기술을 통해 통계·머신러닝 연산을 빠르고 효율적으로 할 수 있도록 했고, 실제 클라우드 환경에 최적화된 속도 향상을 이뤄냈다”고 소개했다.

반향은 대단했다. 네이버클라우드의 이 같은 연구 결과는 세계적 권위의 SCIE급 국제 학술지인 ‘IEEE 액세스(ACCESS)’에 출판됐다. CNN에 동형암호 최적화 기법을 적용한 결과, 동형암호 연산을 위해 만들어진 오픈소스인 TenSEAL과 비교해서도 약 3.9배 성능 향상(10건의 이미지 추론 기준)을 달성했다.

실제 서비스에 적용하기 위한 연구도 진행되고 있다. 네이버페이의 얼굴인증 서비스인 ‘페이스사인(FaceSign)’에 동형암호를 접목하는 연구 결과는 이미 AI 분야 최고 수준 국제학회인 ‘AAAI 2024’와 데이터분석 분야 최고 수준 국제학회인 ‘CIKM 2024’에서 발표된 바 있다.

최 수석연구원은 “‘페이스사인’은 CNN 추론 모델에서 얼굴 이미지를 입력했을 때 나오는 템플릿 벡터 데이터를 서버에 저장돼 있는 벡터 데이터와 유사도 연산을 수행해 어느 정도 일치하는지 확인하는 식으로 출입 통제를 한다”며 “실제로 얼굴 이미지를 탈취하려는 공격들이 있기 때문에, 벡터 데이터를 동형암호화하고 유사도 연산 역시 암호화 상태에서 수행한 뒤 그 결과는 사용자만 복호화할 수 있게 한다”고 말했다.

이번 연구개발로 동형암호의 연산 속도가 크게 개선된 만큼, 소규모 머신러닝 모델이나 의료 및 금융과 같이 데이터 프라이버시가 핵심인 분야에서 실제 서비스 적용이 가능해질 전망이다. 이를 바탕으로 동형암호 기반 프라이버시 보존 클라우드 서비스의 상용화가 더욱 가속화될 것으로 기대된다.

최 수석연구원은 “아직 동형암호 기반 상용화 서비스가 많진 않지만 관련 PoC(개념검증)나 연구 결과는 충분히 나와 있다”며 “네이버클라우드는 향후 5년 후면 동형암호를 활용한 클라우드 서비스를 선보일 수 있을 것”이라고 밝혔다.

그는 “동형암호 기술 연구를 계속하는 이유는 네이버의 다양한 서비스에 안전하고 강력한 데이터 보호 프라이버시 기술을 적용해 사용자가 더 믿고 쓸 수 있게 하기 위함”이라며 “동형암호를 떠나 보안은 네이버클라우드의 최우선 목표와 기치이고, 이런 기조는 앞으로도 계속 가져갈 것”이라고 강조했다.