양자내성암호 Open Quantum Safe 프로젝트

 

Open Quantum Safe 프로젝트 개요

배경 및 프로젝트 목적

Open Quantum Safe(OQS) 프로젝트는 양자 내성 암호(quantum-resistant cryptography)로의 전환을 지원하기 위해 시작된 오픈 소스 프로젝트입니다. 양자 컴퓨팅 기술의 발전으로 기존의 RSA, ECC 등 공개키 암호가 슈어(Shor)의 알고리즘 등에 의해 손쉽게 깨질 수 있는 위험성이 대두되었고, “Y2Q”(또는 Q-Day)라 불리는 시점에 대비해야 한다는 필요성이 제기되었습니다. 특히 “오늘 저장해서 훗날 풀기(harvest now, decrypt later)”와 같은 공격 시나리오가 우려되는데, 이는 현재 안전하다고 여겨지는 암호 통신을 도감청·저장해 두었다가 미래의 양자 컴퓨터로 복호화하는 방식입니다. 이러한 배경에서 OQS 프로젝트는 학계 및 업계와 협력하여 양자 내성 암호 알고리즘의 개발과 프로토타이핑을 촉진함으로써, 향후 양자 컴퓨팅 시대에도 안전한 보안 통신을 구현하는 것을 목표로 하고 있습니다.

추진 기관과 출범 배경

OQS 프로젝트는 2014년 미셸 모스카(Michele Mosca)와 더글라스 스티빌라(Douglas Stebila)에 의해 연구 프로젝트로 설립되었으며, 이후 다수의 기여자와 후원자의 도움을 받아 성장해 왔습니다. 2024년에는 OQS 프로젝트가 리눅스 재단(Linux Foundation)에 합류하여, 해당 재단의 Post-Quantum Cryptography Alliance 출범 프로젝트 중 하나가 되었습니다. 이로써 OQS는 보다 광범위한 산업계·학계의 지원을 받으며 발전하고 있으며, 현재 기술 지침은 OQS 기술 운영 위원회(Technical Steering Committee)에 의해 관리되고 있습니다. 초기 단계부터 OQS는 아마존 웹 서비스(AWS), 캐나다 사이버 보안 센터, 시스코(Cisco), VeriSign 등 여러 기관의 후원을 받아왔고, 캐나다 및 호주 등지의 연구지원 기금을 통해 일부 구성 요소 개발을 진행하기도 했습니다.

주요 활동 및 구성 요소

OQS 프로젝트는 크게 두 가지 축으로 활동합니다:

• liboqs 라이브러리 개발: liboqs는 양자 내성 암호 알고리즘들을 모아 제공하는 오픈 소스 C 라이브러리로, 키 캡슐화 메커니즘(KEM)과 디지털 서명 알고리즘 구현체들을 다수 포함하고 있습니다. 이 라이브러리는 다양한 최신 포스트 양자 알고리즘들을 한데 통합하여 일관된 API로 제공하며, 알고리즘 간 성능 비교를 위한 테스트 하네스와 벤치마크 도구도 포함하고 있습니다. liboqs에 구현된 알고리즘들은 주로 미국 NIST의 포스트 양자 암호 표준화 프로젝트에 제출된 공개 구현 코드를 기반으로 하고 있으며, NIST 표준화 결과에 따라 격자 기반, 코드 기반, 해시 기반 등 다양한 수학적 난제에 근거한 스킴들을 지원합니다. 예를 들어, 2022~2024년 NIST 최종 라운드에서 선정된 CRYSTALS-Kyber (격자 기반 KEM), CRYSTALS-Dilithium (격자 기반 서명), Falcon (격자 기반 서명), SPHINCS+ (해시 기반 서명) 등이 포함되었으며, 그 외에도 Classic McEliece(코드 기반 KEM), BIKE(코드 기반 KEM), HQC(코드 기반 KEM), FrodoKEM(격자 기반 KEM), NTRU 계열(격자 기반) 등 다양한 알고리즘을 실험적으로 지원합니다. 이러한 알고리즘 모음과 공용 API를 통해 개발자와 연구자들은 하나의 인터페이스로 여러 후보 암호들을 교체해가며 테스트할 수 있습니다.
• 암호 프로토콜 통합 및 실험: OQS는 liboqs에서 제공하는 알고리즘을 실제 애플리케이션과 통신 프로토콜에 접목하는 프로토타입 통합 작업을 수행합니다. 대표적으로 TLS/SSL 구현체인 OpenSSL과 BoringSSL의 포크(fork)를 만들어, 여기에 후보 PQC 알고리즘을 적용한 키 교환 및 인증서 검증 절차를 통합했습니다. OQS-OpenSSL (1.1.1 기반) 및 OpenSSL 3에 대한 OQS 제공자(provider), 그리고 BoringSSL 포크 등이 개발되어 TLS 1.3 핸드셰이크에 양자 내성 하이브리드 키 교환이나 PQ 서명 알고리즘을 적용한 실험이 가능해졌습니다. 마찬가지로 SSH 프로토콜에서도 OpenSSH를 포크한 OQS-OpenSSH를 통해 PQ 및 하이브리드 키 교환을 구현하여 시범 운영하고 있습니다. 이외에도 X.509 인증서, VPN, MQTT 등 다양한 보안 프로토콜에 양자 내성 알고리즘을 접목한 예제들과 데모를 제공함으로써, 실제 환경에서의 호환성과 성능을 시험하고 개발자들이 쉽게 실험해볼 수 있도록 지원합니다. 다만 이러한 통합 버전들은 어디까지나 프로토타이핑 및 연구 목적의 레퍼런스 구현으로 제공되는 것이며, 상용 환경에서 바로 사용하기에는 성숙도가 부족하다는 점을 명시하고 있습니다 . 실제 배포시에는 전통 암호와 PQC의 혼합(hybrid)사용 등을 통해 점진적으로 전환하는 것이 권장되며, OQS 측도 보안 한계와 위험성을 프로젝트 FAQ와 문서를 통해 투명하게 공유하고 있습니다.

사용하는 주요 기술 (liboqs 등)

liboqs는 OQS 프로젝트의 핵심 기술 산출물로서, 다음과 같은 특징을 지닙니다:

• 오픈 소스 및 다중 플랫폼: MIT 라이선스로 공개된 liboqs는 리눅스, macOS, Windows 등 여러 운영체제와 x86_64, ARM 등의 아키텍처에서 동작하도록 설계되었습니다. 크로스 컴파일 도구체인을 통해 임베디드 등 기타 플랫폼용 빌드도 지원하며, C99 준수 API로 구현됩니다.
• 공용 API 제공: KEM 알고리즘들과 전자서명 알고리즘에 대한 통일된 함수 호출 인터페이스를 제공하여, 응용 프로그램이 특정 알고리즘에 종속되지 않고도 쉽게 교체 실험을 할 수 있습니다. 이 API 설계는 NIST 및 SUPERCOP의 표준 인터페이스를 참고하여 만들어졌으며, 추가적인 래퍼와 데이터 구조를 통해 사용성을 높였습니다.
• 다언어 래퍼: C 라이브러리인 liboqs의 기능을 C++(oqs-cpp), Python(oqs-python), Go(oqs-go), Rust(oqs-sys) 등 다양한 언어 환경에서 사용할 수 있도록 래퍼(wrapper) 프로젝트도 제공됩니다. 이를 통해 폭넓은 개발자 커뮤니티가 자신이 선호하는 언어로 양자 내성 암호 기술을 시험해볼 수 있습니다.
• 알고리즘 구현 및 관리: liboqs에 포함된 알고리즘 구현체들은 NIST PQC 경연에 참가한 팀들이 공개한 레퍼런스 구현 또는 최적화 구현을 그대로 가져오거나, PQClean 등의 프로젝트를 통해 표준화된 형태로 통합된 것입니다. 따라서 학계 최신 구현을 폭넓게 아우르며, 알고리즘별로 성능 벤치마크와 테스트를 수행해 신뢰성을 확인합니다. OQS는 특정 알고리즘의 “승자”를 미리 결정하지 않으며, NIST 표준화 결과와 연구 동향에 따라 지원 알고리즘 목록을 조정합니다. 예컨대, 4라운드 표준화에서 탈락하거나 보안 약점이 발견된 알고리즘(예: SIKE의 기반인 SIDH의 공격 사례)은 목록에서 제거하고, 새로운 후보나 표준 채택 알고리즘은 추가하는 식입니다. 이러한 유연성과 개방성은 향후 더 강력한 양자 공격이나 추가 알고리즘 발전이 있을 경우에도 지속적으로 대응할 수 있게 해줍니다.

양자 컴퓨팅 시대를 대비한 보안적 의미

OQS 프로젝트의 등장은 양자 컴퓨팅 시대에 대비한 선제적 보안 강화 노력이라는 점에서 중요한 의미를 가집니다. 오늘날 양자 컴퓨터의 성능은 아직 제한적이어서 실제로 현행 암호를 깨지는 못하지만, 암호 표준 교체에는 오랜 시간이 소요되기 때문에 미리 대비책을 마련해야 합니다. 모스카의 정리(Mosca’s theorem)에서도 언급되듯이, 데이터의 보유 기간과 알고리즘 전환 기간, 양자 컴퓨터 개발 속도를 고려하면 지금 이 순간부터 준비를 시작해야 안전하다고 합니다. OQS는 이러한 대비를 위해 오픈 소스 커뮤니티 주도로 누구나 PQC 알고리즘을 시험하고 기존 시스템에 통합해볼 수 있는 공개된 장터(테스트베드) 역할을 합니다.

또한 OQS 프로젝트는 표준화 기관(NIST 등)의 노력과 보조를 맞춰 움직이므로, 산업계가 혼란을 최소화하면서 양자 내성 암호로 이행하도록 돕고 있습니다. 예를 들어 NIST가 2022~2024년에 걸쳐 선정한 초기 PQC 표준 알고리즘들을 OQS의 도구체인에 신속히 반영함으로써, 웹 브라우저, TLS 라이브러리, VPN 소프트웨어 등에서 일찍이 양자 안전 기능을 시험 구축해볼 수 있었습니다. 일부 기술 선도 기업들은 이미 iMessage나 Signal과 같은 메시징 시스템, Cloudflare의 TLS 트래픽 등에 PQC를 도입하거나 시범운용하고 있는데, 이러한 실험들이 가능하도록 OQS가 공통 플랫폼을 제공한 셈입니다. 요약하면, Open Quantum Safe 프로젝트는 향후 도래할 양자 컴퓨팅 위협에 대응하여 암호 인프라의 안전한 업그레이드 경로를 마련해주는 핵심적인 오픈 소스 이니셔티브이며, 정부·기업·학계에 정보 공유와 협력의 장을 제공함으로써 모두의 보안 수준을 높이는 데 기여하고 있습니다.