[디지털데일리 김보민기자] 최근 전 세계를 주목시킨 기술을 꼽아보자면 '양자'를 빼놓을 수 없다. 특히 양자컴퓨터는 일반 컴퓨터와 슈퍼컴퓨터가 다루기 어려운 문제를 해결할 대안으로 떠오르면서, 주요국 간 투자 열전과 상용화 시점에 대한 갑론을박이 이어지고 있다.

이러한 분위기 속 양자컴퓨터 상용화 시점보다, 양자 시대에 새롭게 등장할 보안 위협을 주목하고 있는 기업이 있다. 암호 기반 보안을 연구하고 있는 삼성SDS다. <디지털데일리>는 삼성SDS에서 보안알고리즘랩(Lab)을 이끌고 있는 윤효진 상무를 만나 양자 위협, 그리고 양자내성암호(PQC)의 중요성에 대해 들어봤다.

◆ "보안 위협, 양자컴퓨터 상용화보다 빠를 수 있다"

윤효진 상무는 삼성SDS에 20년 가까이 근무하며, 물리학자가 아닌 보안 전문가의 입장에서 양자 기술을 바라봐왔다. 많은 이들이 양자컴퓨터 상용화 시점을 논할 때, 보안 위협에 경종을 울릴 만한 움직임이 필요하다는 의견에 힘을 싣고 있는 이유다.

윤 상무는 "양자컴퓨터가 상용화되는 시점과, 보안적으로 위협이 시작되는 시점에는 차이가 있다"며 "실제 암호가 깨져 보안적으로 위협이 발생하는 시점이, 상용화 시점과 다를 수 있다는 것"이라고 강조했다.

과거 디지털 컴퓨터 역사를 돌아봤을 때, 실제 제품이 널리 쓰인 시점과 보안 위협이 발생한 시점이 달랐다는 취지다. 윤 상무는 "디지털 컴퓨터의 선구자 격으로 여겨지는 콜로서스의 경우, 2차 세계대전 때 독일의 암호문을 풀기 위해 처음 개발이 됐고, 약 10년이 지난 후 서버급과 대용량 컴퓨터가 상업용으로 나오기 시작했다"며 "이후 1970년대에 접어들며 개인(퍼스널) 컴퓨터가 나왔는데, 실제 보안적 관점에서 위협이 가해진 시점에는 차이가 있었다"고 말했다.

이미 주요국들은 양자컴퓨팅 시대가 머지않았다고 보고, 보안 전략을 구축하는 데 열을 올리고 있다. 이 가운데 떠오른 극복 키워드는 'PQC'다. PQC는 양자컴퓨터 공격 시도에도 안전하다고 여겨지는 일종의 암호 알고리즘이다. 기존 공개키 암호들이 쉽게 해독될 수 있다는 우려가 떠오르면서, 통상 PQC는 양자컴퓨터로도 풀기 어려운 수학적 난제를 기반으로 설계되고 있다.

미국은 2022년 PQC 전환법을 제정했고, 2035년까지 미국 정부기관의 전환 비용으로 약 10조원을 추산했다. 미국 국립표준기술연구소(NIST)는 PQC 표준 알고리즘을 선정하며 전환 가이드라인을 제시하기도 했다. 이 밖에도 영국은 국가사이버보안센터(NCSC)를 필두로 2035년까지 모든 조직이 PQC로 전환을 완료할 것을 권고하고 있고, 캐나다는 양자과학기술 발전 전략의 일환으로 PQC를 채택하고 있다.

윤 상무는 "이제 양자컴퓨터가 언제 나오는지는 더 이상 중요하지 않게 됐다"며 "PQC 전환이 컴플라이언스(Compliance)로 명시됐고, 이를 준수해야 하는 상황이기 때문"이라고 설명했다. 이어 "미국 NIST는 미 정부기관에 납품되는 시스템과 솔루션을 대상으로 암호 표준을 내고 있다"며 "이미 글로벌 현장에서 안전한 시스템을 만들고자 한다면, 해당 암호를 표준처럼 쓰고 있는 상황"이라고 분위기를 전했다.

아직까지 양자컴퓨터 공격으로 인한 보안 위협 규모를 예단하는 목소리는 많지 않다. 다만 공격이 발생할 것이라는 예측에는 공감대가 모이고 있다. 윤 상무도 "IT 시스템의 기반은 암호"라며 "보안적인 문제가 (양자컴퓨터) 상용화 시점보다 빨리 올 수 있는 만큼, 선제적으로 준비를 해야 할 때"라고 꼬집었다.

◆ 삼성SDS, 국내 기술 표준 '리딩'+PQC 전환 '올인'

한국도 PQC 전환에 올라탔다. 국가정보원(이하 국정원)과 과학기술정보통신부는 2023년 7월 '양자암호기술 발전 전략'을 발표하며 PQC 전환 로드맵을 제시했고, 2035년까지 국가 주요 정보통신 기반 시설에 관련 기술을 적용하겠다고 포부를 밝혔다. 그러나 미국 등 주요국의 적극적인 투자와 비교하면, 예산 규모와 추진 속도에서 아쉬운 면이 많다는 지적이 나온다.

윤 상무가 이끄는 보안알고리즘랩은 삼성SDS 보안연구팀 산하 조직으로, 한국판 PQC 기술 표준을 이끌기 위해 연구·개발에 집중하고 있다. 암호학 박사 출신 인력만 10여명으로 구성돼 있다. 그 결과 삼성SDS는 카이스트(KAIST)와 산학협력으로 개발한 '에이머(AIMer)' 알고리즘이 국가 KpqC공모전(전자서명용)에 선정되는 성과를 거뒀다.

윤 상무는 "NIST 표준 가운데 해시 기반 전자서명인 'SLH-DSA(FIPS205)'가 있다"며 "SLH-DSA는 해시 함수의 안전성에 기반한다는 특징이 있는데, 에이머는 이와 유사하게 대칭키 암호의 안전성에 기반했다"고 설명했다.

에이머는 소인수분해 등 수학적 난제 기반이 아닌, 자체 개발한 일방향 함수 기반 암호 알고리즘이다. 일방향 함수는 한 번 암호화가 끝나면 다시 복원하는 것이 불가능해, 수학적 난제 방식으로 접근하는 것보다 안전하다고 알려져 있다. 삼성SDS는 에이머가 SLH-DSA보다 6.35배 빠르고, 2.9배 작은 서명 크기를 가지고 있다고 자신한다.

삼성SDS는 국내 표준뿐만 아니라, 글로벌 표준에도 도전장을 내민다. 현재 NIST는 1차 표준 알고리즘에 이어 핍스(FIPS) 표준 3개를 선정했는데, 선정한 암호 알고리즘의 구현 문제가 이슈로 떠오르면서 추가 공모를 진행했다. 전자서명 알고리즘도 추가로 공모하고 있다.

윤 상무는 "기존 전자서명 종류 외 다른 수학적 난제 혹은 암호학적 난제에 기반한 형태를 더 선정하려 하고 있다"며 "다양성이 필요해진 시점"이라고 진단했다. 삼성SDS는 이번 공모에 도전장을 내밀었지만, 이번에는 성과를 거두지 못했다. 윤 상무는 "현재 (공모) 2라운드에 올라가 있는 시그니처들의 성능을 개선하는 기반 문제에 대한 연구를 지속할 예정"이라며 "암호학계에서 원시적(primitive·프리미티브)이라고 여겨지는 연구를 지속 진행할 것"이라고 말했다.

삼성SDS는 삼성클라우드플랫폼(SCP) 통신 구간에 PQC를 시범 적용했고, 이를 확대할 예정이다. PQC 전환 기술 'S-CAPE'도 SCP에서 제공할 방침이다. 윤 상무는 "PQC를 기반으로 서비스된 부분을 확대하고, 관련 서비스가 제공될 수 있게끔 사업부와 협업하고 있다"며 "하반기에 (추진 사항을) 만나볼 수 있도록 준비 중"이라고 소개했다.

한편 윤 상무는 PQC 전환을 본격화하기 위해서는 암호자산을 식별하는 기반 작업이 선행돼야 한다고 제언했다. 윤 상무는 "한국의 경우 소프트웨어자재명세서(SBOM)가 보편화되지 않았고, SBOM의 일환인 암호화자재명세서(CBOM)는 전무한 상황"이라며 "컨센서스를 맞추고, 교육을 병행하고, 식별부터 준비하는 것이 첫 단계"라고 강조했다.