양자 역학, 양자 물리학은 현대물리학의 한 분야이긴 하지만 그 원리와 이론이 워낙 다양하고 복합적이기에 어느 누구도 쉽게 이해할 수 없는 학문으로 인식되어 왔다. 하지만 최근 양자 역학의 원리를 각 산업에 도입하려는 움직임이 이어지고 있다. 보안 분야 역시 마찬가지. 양자 역학의 법칙에 의해 보장받는 통신상의 기술 혹은 양자 기술을 기반으로 한 암호 통신인 양자 보안이 그 주인공이다.

양자 보안의 핵심, 양자 컴퓨터

양자 보안은 양자 컴퓨터의 연산 능력으로도 뚫을 수 없는 철저한 보안 기술을 의미한다. 여기서 등장하는 양자 컴퓨터는 미국의 대표적인 이론물리학자이자 노벨물리학상 수상자이기도 한 리차드 파인만이 1982년에 자신의 논문에서 제시한 컴퓨터다. 기존의 디지털 방식이 아닌, 양자 역학 원리를 이용한 컴퓨터로 지금까지의 컴퓨터보다 탁월하게 빠른 속도로 결과를 도출해 낼 수 있는 슈퍼컴퓨터의 일종이다.

리차드 파인만이 최초로 제시한 양자 컴퓨터는 1985년 영국 옥스퍼드대학교의 데이비드 도이치에 의해 그 가능성이 증명되었다. 보안 분야에서 양자 컴퓨터를 주목하게 된 것은 1994년부터다. 당시 미국 벨연구소의 피터 쇼어라는 인물이 양자 컴퓨터를 이용한 소인수 분해 알고리즘을 개발했고, 1996년에는 같은 연구소의 로브 그로버가 정렬되지 않은 데이터베이스로부터 특정 데이터를 신속하게 찾을 수 있는 검색 알고리즘을 발견한다.

특히 피터 쇼어의 소인수 분해 알고리즘은 현재 인터넷을 비롯한 다양한 공간에서 활발하게 사용되는 RSA 암호 체계의 기반이 되기도 했다. 문제는 RSA 암호 체계가 큰 수는 소인수 분해하기 어렵다는 수학적 정리를 근거로 하고 있는데, 임의의 정수를 빠른 시간 안에 소인수 분해할 수 있는 고도화된 양자 컴퓨터가 등장하면 이 RSA 암호 체계가 무력화될 가능성이 높다는 것이다.

현재 대부분의 인터넷 보안 시스템은 RSA 암호 체계를 기반으로 하고 있기에 기존 보안 시스템을 무력화할 수 있는 양자 컴퓨터의 등장은 양자 보안 기술의 발전을 채찍질하는 요소가 될 수 있다.

현재 우리가 사용하는 컴퓨터는 정보를 0이나 1로 표현하는 비트 단위로 연산하지만 양자 컴퓨터는 퀀텀(Quantum)이라 불리는 양자를 활용해 연산을 수행한다. 퀀텀은 0과 1을 동시에 갖는 양자비트 단위로 연산을 하기에 하나의 비트로 처리할 수 있는 정보량이 급격히 증가해 매우 빠른 연산 능력을 자랑한다.

현재 많은 국가와 국가와 기업들이 2030년 혹은 2035년이면 양자 컴퓨터의 상용화가 가능하다는 비전을 제시하고 있다. 2022년에는 중국의 SpinQ에서 세계 최초의 상용 PC형 양자 컴퓨터 Gemini 시리즈를 출시하기도 했는데, 성능이 제한적이기 때문에 활용처도 많지 않은 것으로 알려져 잇다. 이처럼 양자 컴퓨터의 상용화가 눈앞에 다가오면서 양자 컴퓨터로도 뚫을 수 없는 양자 보안 기술들 역시 주목을 받고 있다.

양자 보안 기술의 두 축, QKD와 PQC

양자는 크게 3가지의 주목할 만한 특성을 보유하고 있다. ▲여러 상태가 확률적으로 하나의 양자에 동시에 존재하고 측정하기 전까지 정확한 양자 상태를 알 수 없는 양자 중첩 ▲두 양자가 서로 멀리 떨어져 있어도 존재하는 양자 얽힘 ▲서로 다른 물리량을 동시에 정확하게 측정이 불가한 특성인 불확정성이 그것이다.

이러한 양자의 특성을 보안 분야에 적용한 양자 보안은 크게 하드웨어 기반의 양자암호키분배(QKD: Quantum Key Distribution)와 소프트웨어 기반의 양자내성암호(PQC: Post- Quantum Cryptography) 연구로 나눌 수 있다.

먼저, QKD는 두 사용자 간 암호 통신에 필요한 키를 서로 비밀리에 공유할 수 있도록 하는 기술이다. 광 링크를 통해 빛의 양자 입자인 광자를 전송하여 작동하는 방식으로 소인수 분해 문제나 다른 수학적 복잡성이 아닌 물리적 자연 현상에 기반을 두고 있어 양자 컴퓨터같이 강력한 연산 능력을 갖춘 공격자가 난입해도 사용자 간에 공유된 비밀키를 알아낼 수 없다는 특징이 있다.

다만, 전용 하드웨어 장비가 필요하고 광자라는 물질 자체가 워낙 민감해 오류 발생이 많고 신호 왜곡, 노이즈가 많다는 단점이 있다. 여기에 별도로 사용자의 신원을 확인하는 인증 기능을 지원하지 않아서 사용자 신원 도용에 취약하고 가용 전송 거리가 짧아 약 25km 거리마다 중계소를 설치해야 한다. 1984년 IBM의 찰스 베넷 박사와 몬트리올 대학의 질 브라사드 교수에 의해 처음 제안된 QKD는 가장 대표적인 양자 암호 기술로 알려져 있다.

PQC는 양자 기술을 공개키 암호 알고리즘에 활용하는 기술이다. 통신에서 오고 가는 데이터는 정보를 주고받는 당사자를 제외한 제3자가 쉽게 조회하고 위조, 변조할 수 있기 때문에 공개키 암호 알고리즘을 이용해 데이터를 암호, 복호화해 전달한다. 지금까지는 이러한 공개키 암호 알고리즘에는 소인수 분해 문제나 이산 대수 문제, 타원곡선 문제처럼 컴퓨터로도 빠른 시간 안에 푸는 것이 어려운 수학 문제들이 활용되었다.

하지만 양자 컴퓨터가 등장하면 이러한 수학 문제들이 쉽게 풀려 보안 위협이 발생할 수 있다. 이에 양자 컴퓨터로도 풀기 어려운 수학 문제들을 기반해 암호알고리즘을 설정하는 방법이 주목받고 있다. 이를 PQC라고 한다. PQC는 QKD처럼 별도의 하드웨어가 필요하지 않고 인증과 키 분배, 암호화 기능을 모두 지원한다는 장점이 있다. 반면 더욱 성능이 뛰어난 양자 컴퓨터가 등장할 경우 보안 기능이 무력화될 위험이 있다는 단점이 있다.

아직 걸음마 수준인 양자 보안 기술

미국 국립표준기술연구소(NIST)에서는 이미 2017년 PQC 알고리즘 표준화를 위한 공모를 진행했으며 2023년에 양자 암호화 표준 초안을 발표하며 양자 보안의 미래를 대비하고 있다. 더불어 2009년부터 국가양자정보과학비전을 발표하고 2016년에는 양자 정보 과학 발전 계획을 수립해 체계적인 양자 보안 기술 개발에 나서고 있다.

양자 보안 기술, 양자 통신 기술에서 가장 두각을 드러내는 국가는 중국이다. 중국은 2012년 과학기술부가 양자와 나노 기술 분야에 5년간 2900억 원을 투자하며 양자 통신망 구축에 힘써왔다. 그 결과 2016년에는 세계 최초로 양자 통신 위성인 묵자호를 발사해 1200km 떨어진 곳에서 양자 통신을 전송하는 데 성공했다. 2022년에는 중국 신장 우루무치 인근 지상 기지와 3800km 떨어진 러시아 모스크바 인근 기지 사이에 해킹 방지를 목적으로 한 양자 통신에 성공하기도 했다.

한국 역시 2014년 2월에 양자 정보 통신 중장기 추진 전략을 수립하여 본격적인 기술 개발을 추진 중이다. 2016년에는 대규모 국책 사업으로 양자 정보 통신 중장기 기술 개발 사업의 예비 타당성 조사를 진행했고 양자 암호 장거리 통신, PQC 알고리즘 자체 개발 등 양자 보안 분야에서 다양한 성과를 낸 바 있다.

2023년에는 세계에서 처음으로 양자 암호 통신 장비의 보안기능검증제도를 시행했으며 관련 보안 기준도 준비했다. 과학기술정보통신부는 글로벌 양자 보안 통신 시장 규모를 2022년 1조 6000억 원에서 2030년 24조 5000억 원까지 커질 것으로 전망했다. 연평균 39.8% 성장하는 셈이다.

전 세계 보안 전문가들이 주목하고 있는 양자 보안 기술이지만 아직 극복해야 할 기술적 한계도 많이 존재한다. 가장 핵심은 암호 키의 전송 거리다. 광 링크를 사용하든 공개키 암호 알고리즘을 사용하든 암호 키가 멀리 전송될수록 상용화 가능성은 커진다. 한국은 아직까지 무선 양자 암호 키 최대 전송 거리가 2km에 불과하지만 오스트리아는 지난 2021년 이미 지상 143km 구간에서 무선 양자 암호통신에 성공한 바 있다. 중국 역시 유무선을 더해 약 4600km 구간에 양자 보안 통신을 구축해 화제가 되었다.

양자 컴퓨터, 양자 인터넷, 양자 중계기 등 양자 보안을 위한 수많은 기술들이 개발되고 등장하고 있다. 코 앞으로 다가온 양자 보안 시대, 안전한 보안 환경을 위해서는 다소 생소하고 어렵게 느껴질 수 있는 양자 보안 기술에 대한 공부와 대비가 필요해 보인다.

김민진 기자 다른기사 보기