- 천정희 서울대 수리과학부 교수

[디지털데일리 강소현 기자] “도둑이 장롱에 있는 돈을 훔쳐가는 영화 장면, 요즘 아이들은 이상하게 봅니다. 이젠 돈을 은행에 보관하지, 장롱에 보관하는 사람이 없기 때문입니다.”

집에 좀도둑이 드는 일이 이젠 옛 이야기가 됐다. 집에 귀중품을 두는 사람이 사라졌기 때문이다. 은행 등 안전하게 귀중품을 보관할 수 있는 곳이 생긴 데 따른 것이다. 그렇다면 데이터는 어떨까. 현재 데이터는 암호화된 상태로 컴퓨터 내부에 저장돼, 송·수신자만 해독할 수 있게 설계돼 있다. 하지만, 빈번한 개인정보 유출사고에서 알 수 있는 것처럼 현재의 데이터 보안은 완벽하지 않다.

천정희 서울대 수리과학부 교수는 컴퓨터 내부의 데이터를 훔쳐가는 것이 허무맹랑한 이야기가 되는 날이 올 것이라고 봤다. 그는 앞으로 10년 안에 데이터를 완벽하게 보호할 수 있는 더 강력한 암호체계가 등장할 것이라고 주장했다. 동형암호을 기반으로 한 양자내성암호(PQC)가 그 주인공이다.

◆복호화 없이 정보 가공 가능한 ‘동형암호’

”짧게는 5년, 길게는 10년 ‘해커가 암호화된 데이터를 어떻게 훔쳐봐?’라고 말하는 때가 올 것입니다"

차세대 암호기술 스타트업 크립토랩을 이끌고 있는 천 교수는 세계적으로 유명한 동형암호 전문가다. 천 교수 연구팀은 2016년 동형암호의 한계로 지적됐던 실수 연산 문제를 해결하는 수학 알고리즘을 세계 최초로 개발해, 동형암호 상용화에 기여했다는 평가를 받고 있다.

암호는 차별화된 특징에 따라 세대가 구분되는데, 이 중에서도 4세대 암호로 일컬어지는 동형암호는 데이터를 암호화한 상태에서도 연산을 가능하게 한 암호다. 과거 데이터를 가공하려면 암호를 복호화하고, 이를 다시 암호화하는 과정이 필요했는데 이 과정에서 해킹 당하는 경우가 비일비재했다. 동형암호는 이런 과정을 생략할 수 있다는 점에서 기존 암호의 한계를 극복했다.

예컨대 데이터를 보석, 데이터가 저장된 공간을 금고에 비유한다면 기존 암호는 이 보석을 가공하기 위해 금고에서 꺼내야 하는 반면, 4세대 암호는 금고를 열지 않은 상태로 보석 가공이 가능한 것이다.

◆양자컴퓨터의 위협…선형잡음문제 기반 PQC로 대응

문제는 양자컴퓨터의 등장이었다. 데이터를 해독하는 키가 되는 ‘암호키’(비밀키)는 수학적 알고리즘에 기초해 만들어지는데, 수학적 알고리즘이 풀린다면 암호체계는 결국 무력화된다. 특히 슈퍼컴퓨터로는 1만년 걸릴 문제를 200초만에 해결할 수 있는 양자컴퓨터가 등장하면서 연구자들은 양자컴퓨터도 풀 수 없는 복잡한 수학적 알고리즘에 기반한 암호체계를 만드는데 몰두했다.

동형암호 가운데 양자내성암호(PQC)는 이런 고민 속에서 등장한 암호체계다. 양자내성암호는 복잡한 수학적 알고리즘에 기초해 암호키를 생성하는, 양자에 내성이 있는 암호체계다. 알고리즘에 종류는 다양한데 천 교수는 선형잡음문제(LearningwithErrors, LWE), 그 중에서도 격자 기반의 알고리즘이 국제 표준이 될 가능성이 높다고 천 교수는 봤다.

양자내성암호의 트랩도어 함수인 선형잡음문제는 출력되는 값에 노이즈(잡음)를 섞어 원래 입력된 값을 유추하기 어렵게 만드는 방식이다. 예컨대 연립선형방정식 형태의 ‘행렬 A*벡터s(비밀키)’에서 결과값이자 비밀키인 s를 찾아내는 것은 쉽지만, ‘행렬 A*벡터s(비밀키)’에 잡음 e를 더하게 된 상태에서 비밀키를 찾긴 어렵다.

천 교수는 선형잡음문제를 가장 가까운 격자점을 찾는 문제에 빗대면서 ”1차원에서 ‘가장 가까운 격자점(비밀키)을 찾아라’라는 문제가 주어진다면 답을 찾기 쉽지만, 300차원의 격자에서 이를 찾으려면 2^250번의 계산이 필요하다“며 ”우주의 원소갯수가 이 정도라고 생각하면 이 문제를 얼마나 풀기 어려운지 가늠할 수 있다“고 말했다.

◆양자컴퓨터는 방패 아닌 창…"비밀키 보관할 시 위험"

최근 일각에선 양자내성암호가 뚫릴 수도 있음을 시사하는 듯한 연구결과가 나와 시선을 모으기도 했다. 한국전자통신연구원(ETRI)이 강력한 암호도 뚫을 세계 최고 성능 수준의 양자 알고리즘을 개발했다고 밝히면서다.

ETRI는 최근 ‘분할-정복(divide-and-conquer) 전략’을 활용, 비교적 작은 수준의 양자컴퓨터로도 공략할 수 있는 양자 알고리즘을 개발했다고 말했다. ‘분할-정복’ 전략이란, 여러번 적은 양의 계산을 통해 각각의 값을 구한 뒤 이를 다시 합쳐 원래의 해를 유추하는 방식이다.

이후 양자내성암호가 뚫릴 수 있다는 것처럼 이야기됐지만 이는 사실과 다르다는 게 천 교수의 의견이다. 본 연구는 양자컴퓨터가 암호키(비밀키)를 가지고 있음을 전제하고 있는데, 당초 양자컴퓨터는 ‘창’이 아닌 정보를 보호하는 ‘방패’로 활용될 수는 없다는 주장이다.

천 교수는 "양자내성암호로 암호화된 데이터를 복호화하려면 방대한 양의 선형잡음문제 샘플을 얻어야 한다"며 "이에 연구는 양자컴퓨터로부터 양자스테이트(양자대답)을 얻을 수 있다는데 전제를 두고 있지만 이는 불가능하다"고 말했다.

오히려 연구는 양자내성암호의 위험성 보단, 양자컴퓨터가 암호키를 보유하면 쉽게 해킹될 수 있음을 경고하고 있다고 그는 덧붙였다. 천 교수는 “양자컴퓨터가 나오더라도 암호키는 일반컴퓨터에 보관하는 것이 더 안전성을 보장받는 방안이라 할 수 있겠다”고 말했다.