NISQ 양자컴퓨팅을 공부하며 알게 된 것｜큐비트 수보다 오류와 전체 비용이 중요했다
양자컴퓨터를 처음 접했을 때는 큐비트 수가 많으면 많을수록 더 뛰어난 장비라고 생각했습니다. 100큐비트, 1,000큐비트처럼 숫자가 커질수록 계산 능력도 자연스럽게 커질 것처럼 보였습니다.
그런데 NISQ와 에러 완화 기술을 공부하면서 이 생각이 많이 바뀌었습니다. 현재 양자컴퓨터는 큐비트 수 자체보다 얼마나 낮은 오류율로, 얼마나 깊은 회로를 실행할 수 있고, 결과를 얻기 위해 얼마나 많은 반복 측정과 후처리가 필요한지가 더 중요할 수 있었습니다.
특히 잡음이 있는 양자컴퓨터에서는 한 번의 계산 결과만 보고 답을 정하지 않습니다. 같은 회로를 수없이 반복하고, 그 결과를 통계적으로 분석해야 합니다. 에러 완화까지 적용하면 더 많은 실행과 고전 후처리가 필요할 수 있습니다.
처음에는 “큐비트가 몇 개인가?”를 가장 먼저 봤습니다. 지금은 오류율, 회로 깊이, 필요한 샷 수, 전체 계산시간과 비용, 그리고 최신 고전 알고리즘보다 실제로 나은가를 먼저 보려고 합니다.
1. NISQ는 단순히 ‘큐비트가 적은 컴퓨터’가 아니었다
NISQ는 Noisy Intermediate-Scale Quantum의 약자입니다. 말 그대로 잡음이 존재하고 완전한 오류 보정을 적용하기 어려운 중간 단계의 양자컴퓨팅을 설명하는 개념입니다.
처음에는 NISQ를 수십~수백 큐비트 정도의 양자컴퓨터라고 단순하게 이해했습니다.
하지만 공부해보니 큐비트 개수가 핵심 기준은 아니었습니다.
현재처럼 물리 큐비트를 직접 사용하면서 잡음 때문에 실행 가능한 회로 깊이에 제한이 있고, 대규모 결함 허용 계산이 어려운 시스템을 폭넓게 설명하는 개념에 가깝습니다.
- 실제로 얼마나 깊은 회로를 실행할 수 있는가
- 계산 결과를 얼마나 신뢰할 수 있는가
- 오류를 줄이기 위해 몇 번을 반복해야 하는가
- 최신 고전 알고리즘보다 실제로 나은가
- 전체 계산비용까지 포함해 장점이 있는가
2. 큐비트가 많아져도 결과가 무조건 좋아지지 않는 이유
양자컴퓨터의 물리 큐비트는 여러 종류의 오류에 노출됩니다.
| 오류 유형 | 제가 이해한 의미 |
|---|---|
| 상태 준비 오류 | 처음부터 원하는 상태로 큐비트를 준비하지 못하는 문제 |
| 단일 큐비트 게이트 오류 | 개별 큐비트 회전이 목표값과 달라지는 문제 |
| 2큐비트 게이트 오류 | 큐비트 사이 얽힘을 만드는 과정에서 발생하는 오류 |
| 측정 오류 | 실제 상태와 다른 결과를 읽는 문제 |
| 크로스토크 | 한 큐비트 제어가 주변 큐비트에 영향을 주는 현상 |
| 누설 오류 | 큐비트가 계산에 사용하는 상태 공간을 벗어나는 현상 |
특히 여러 큐비트를 연결하는 2큐비트 게이트는 중요했습니다.
알고리즘에서 필요한 큐비트 연결과 실제 하드웨어 연결 구조가 다르면 SWAP 같은 추가 게이트가 필요해질 수 있습니다. 그러면 회로가 길어지고 오류도 더 누적됩니다.
그래서 큐비트 수가 많아도 연결성과 게이트 품질이 좋지 않으면 실제로 실행 가능한 유용한 회로는 제한될 수 있다는 점을 알게 됐습니다.
3. 디코히런스를 공부하며 ‘시간’도 자원이라는 걸 알았다
디코히런스는 큐비트가 주변 환경과 상호작용하면서 중첩과 위상 정보를 잃는 현상입니다.
쉽게 말하면 양자 상태를 무한정 유지할 수 없기 때문에 일정 시간 안에 필요한 연산을 끝내야 합니다.
처음에는 결맞음 시간이 길면 양자컴퓨터의 오류 문제가 거의 해결되는 것처럼 생각했습니다.
하지만 실제로는 다음 항목도 함께 봐야 했습니다.
- 게이트 정확도
- 측정 정확도
- 큐비트 연결성
- 크로스토크
- 누설 오류
- 장비 상태의 시간별 변동
결국 결맞음 시간은 중요한 지표지만 하나의 숫자로 전체 성능을 설명할 수는 없다고 이해했습니다.
4. 회로 깊이를 알게 된 뒤 알고리즘을 다르게 보게 됐다
양자 알고리즘은 여러 게이트를 순서대로 적용하면서 계산을 수행합니다.
회로가 깊어지면 더 복잡한 연산을 표현할 수 있지만 그만큼 오류도 누적됩니다.
NISQ 장비에서는 일정 깊이를 넘어가면 결과가 이상적인 계산에서 크게 벗어날 수 있습니다.
그래서 이론적으로 뛰어난 알고리즘이라도 현재 하드웨어에서 실행 가능한 형태로 줄이지 못하면 의미가 제한될 수 있습니다.
- 2큐비트 게이트를 얼마나 줄였는가
- 하드웨어 연결 구조에 맞게 큐비트를 배치했는가
- 불필요한 게이트를 제거했는가
- 병렬 실행 가능한 연산을 재배치했는가
- 오류가 큰 큐비트와 연결 경로를 피했는가
5. ‘샷’ 개념을 이해하고 나니 양자컴퓨터 속도를 보는 기준이 바뀌었다
양자컴퓨터는 한 번 실행해서 최종 답을 얻는 경우보다 같은 회로를 여러 번 반복해 측정값의 분포를 구하는 경우가 많습니다.
한 번의 실행을 흔히 샷(Shot)이라고 부릅니다.
정확도를 높이려면 샷 수를 늘려야 할 수 있습니다. 문제는 에러 완화를 적용하면 이 샷 수가 크게 증가할 수 있다는 점입니다.
수천·수만 번 반복 + 대기시간 + 후처리를 포함하면 전체 시간은 달라질 수 있다
이 부분을 공부하고 나니 “양자 게이트가 몇 나노초 만에 실행된다”는 숫자만으로 실제 계산 성능을 판단하기 어려운 이유가 이해됐습니다.
6. 장비 상태가 매번 똑같지 않다는 점도 의외였다
실제 양자 프로세서의 오류율은 항상 일정하지 않습니다.
큐비트마다 성능이 다르고 같은 큐비트도 장비 보정 시점과 주변 조건에 따라 오류율이 달라질 수 있습니다.
어제 가장 좋은 큐비트 연결이 오늘도 가장 좋다고 보장할 수 없는 셈입니다.
그래서 실행 전 장비 보정 정보를 확인하고 상태가 좋은 큐비트와 연결 경로를 선택하는 과정도 중요합니다.
이런 변동성은 실험 재현성에도 영향을 줄 수 있습니다.
7. 양자컴퓨터의 진짜 경쟁자는 최신 고전 컴퓨터였다
양자컴퓨터의 장점을 이야기할 때 예전의 고전 알고리즘과 비교하면 안 된다는 점도 인상적이었습니다.
고전 컴퓨팅도 계속 발전하기 때문입니다.
- GPU 병렬화
- 슈퍼컴퓨터
- 개선된 수치해석
- 텐서 네트워크
- 문제 특화 휴리스틱
- 근사 알고리즘
양자 실험이 발표된 뒤 같은 문제를 더 잘 푸는 고전 알고리즘이 나올 수도 있습니다.
그래서 ‘양자 우위’는 한 번 선언하면 영원히 유지되는 고정된 타이틀이 아니라 문제 크기, 정확도, 알고리즘과 하드웨어에 따라 달라질 수 있는 비교 결과라고 이해했습니다.
8. 에러 완화는 오류를 없애는 기술이 아니었다
처음에는 Quantum Error Mitigation을 ‘오류 보정의 가벼운 버전’ 정도로 생각했습니다.
하지만 QEM과 QEC는 목적과 방식이 다릅니다.
| 구분 | 에러 완화 QEM | 오류 보정 QEC |
|---|---|---|
| 목적 | 잡음이 결과에 미친 영향 감소 | 논리 양자정보 보호 |
| 방식 | 반복 실행과 고전 후처리 | 여러 물리 큐비트로 논리 큐비트 구성 |
| 주요 비용 | 샷 수와 후처리 증가 | 물리 큐비트와 제어자원 증가 |
| 역할 | 현재 NISQ 장비 활용에 유용 | 장기적인 FTQC의 핵심 |
에러 완화는 잡음을 실제로 제거하는 대신 잡음이 포함된 결과를 여러 방식으로 측정해 이상적인 결과를 추정하는 기술이라고 이해했습니다.
9. 영잡음 외삽 ZNE를 공부하며 ‘추정의 비용’을 알게 됐다
ZNE는 Zero-Noise Extrapolation의 약자입니다.
같은 회로를 서로 다른 잡음 수준에서 실행한 뒤 잡음이 0에 가까울 때 어떤 결과가 나올지 외삽하는 방식입니다.
예를 들어 기본 잡음 수준, 더 높은 잡음 수준, 그보다 더 높은 잡음 수준에서 각각 회로를 실행한 뒤 변화 추세를 이용해 영잡음 결과를 추정합니다.
별도의 논리 큐비트 없이 적용할 수 있다는 장점이 있지만 공짜는 아닙니다.
- 여러 잡음 수준에서 반복 실행해야 합니다.
- 샷 수가 늘어납니다.
- 잡음이 시간에 따라 달라지면 추정이 흔들릴 수 있습니다.
- 가정한 수학적 모델이 실제 잡음과 맞지 않을 수 있습니다.
그래서 저는 ZNE 성과를 볼 때 보정 후 정확도뿐 아니라 몇 배의 실행비용이 추가됐는지도 같이 봐야 한다고 생각하게 됐습니다.
10. PEC는 큐비트보다 샘플링 비용이 문제였다
PEC는 Probabilistic Error Cancellation의 약자입니다.
장비의 잡음 모델을 추정하고 여러 변형된 회로를 특정 확률에 따라 실행해 잡음 영향을 수학적으로 상쇄하는 방식입니다.
이론적으로는 정확한 잡음 모델과 충분한 샘플이 있다면 이상적인 결과에 가까워질 수 있습니다.
하지만 회로가 길어지고 잡음이 커지면 필요한 샘플 수가 매우 빠르게 늘어날 수 있습니다.
하드웨어 큐비트 수를 크게 늘리지 않아도 되는 대신 샘플링 오버헤드를 지불할 수 있다는 점입니다.
11. 에러 완화는 공짜로 정확도를 올리는 기술이 아니었다
이 부분이 NISQ 공부에서 가장 크게 남았습니다.
에러 완화는 하드웨어 자원을 절약할 수 있지만 반복 실행과 통계처리, 장비 보정과 고전 후처리 비용을 늘릴 수 있습니다.
그래서 에러 완화 결과를 볼 때는 다음을 함께 봐야 합니다.
- 보정 전후 정확도가 얼마나 개선됐는가
- 결과의 분산과 신뢰구간은 어떤가
- 샷 수가 몇 배 늘어났는가
- 잡음 모델을 얼마나 정확하게 추정했는가
- 다른 시간이나 장비에서도 재현되는가
- 고전 후처리 비용까지 포함했는가
결국 정확도 개선과 추가 비용을 같이 봐야 실제 가치가 있는지를 판단할 수 있다고 느꼈습니다.
12. 회로 분할도 만능 해결책은 아니었다
Circuit Cutting은 큰 양자 회로를 여러 작은 부분으로 나눠 실행한 뒤 결과를 고전적으로 다시 결합하는 방식입니다.
현재 장비보다 큰 회로를 부분적으로 다룰 수 있다는 점은 흥미롭습니다.
하지만 절단 지점이 많아지면 재구성을 위한 샷 수와 후처리 비용이 크게 증가할 수 있습니다.
그래서 회로 분할도 제한된 하드웨어에서 특정 회로를 처리하도록 돕는 자원 관리 기술로 보고, 무제한 확장 가능한 해결책처럼 받아들이지 않는 편이 맞다고 생각합니다.
13. 변분 알고리즘도 에러 완화 기술은 아니었다
VQE와 QAOA처럼 자주 등장하는 변분 양자 알고리즘도 처음에는 에러 완화와 비슷한 계열로 생각했습니다.
하지만 변분 알고리즘은 양자컴퓨터와 고전컴퓨터가 역할을 나눠 문제를 푸는 하이브리드 계산 방식입니다.
- 양자컴퓨터 → 매개변수화된 회로 실행과 측정
- 고전컴퓨터 → 측정 결과를 이용해 매개변수 최적화
비교적 얕은 회로를 사용할 수 있어 NISQ 시대 후보로 주목받았지만 잡음에서 자유로운 것은 아닙니다.
큐비트와 회로가 커질수록 배런 플래토처럼 최적화가 어려워지는 문제도 나타날 수 있습니다.
에러 완화 = 잡음 영향을 줄이는 보조 기술
회로 최적화 = 게이트와 깊이를 줄이는 컴파일 기술
14. 오류 억제·에러 완화·오류 보정을 따로 정리하니 헷갈리지 않았다
세 용어는 함께 사용되는 경우가 많지만 역할은 다릅니다.
- 오류 억제 → 잡음이 계산에 들어오는 양 자체를 줄임
- 에러 완화 → 이미 들어온 잡음이 결과에 미친 영향을 통계적으로 줄임
- 오류 보정 → 논리 큐비트를 구성해 오류를 지속적으로 탐지·처리
실제 NISQ 실험에서는 이 중 하나만 사용하는 것이 아니라 회로 최적화와 오류 억제, 에러 완화를 함께 적용할 수 있습니다.
15. 실용 양자이득을 공부하니 ‘빠르다’는 말만으로 부족했다
양자이득이라는 표현도 공부 전후로 보는 기준이 많이 달라졌습니다.
단순히 특정 회로 계산이 빠르다고 해서 실제 산업에서 이득이 있는 것은 아닙니다.
실용 양자이득을 주장하려면 전체 과정에서 의미 있는 장점이 있어야 합니다.
- 결과 정확도
- 전체 실행시간
- 양자 장비 사용료
- 고전 전처리·후처리 비용
- 데이터 입력 비용
- 반복 측정 횟수
- 에러 완화 비용
- 결과 재현성과 검증 가능성
- 기존 시스템과 통합하는 비용
- 실제 경제적 가치
16. 제가 양자이득을 판단한다면 볼 5가지
① 전체 과정에서도 빠른가?
양자 회로만 빠르고 데이터 준비와 후처리가 오래 걸린다면 전체 장점이 줄어들 수 있습니다.
② 같은 정확도로 비교했는가?
양자 결과 정확도가 더 낮은데 시간만 비교하는 것은 공정하지 않을 수 있습니다.
③ 최신 고전 알고리즘과 비교했는가?
단순한 고전 코드가 아니라 GPU 병렬화와 최신 휴리스틱까지 포함한 경쟁력 있는 방법과 비교해야 합니다.
④ 실제 산업 문제 크기인가?
작은 실험문제에서 성공했다고 해서 실제 신약, 물류, 금융 문제에 그대로 적용되는 것은 아닙니다.
⑤ 반복 가능한 결과인가?
한 번의 성공보다 다른 시점과 장비에서도 비슷한 결과가 나오는지가 중요합니다.
17. 신약·최적화·AI라는 단어가 붙었다고 바로 상용화된 것은 아니었다
NISQ 연구에서는 양자화학, 신약, 물류, 금융과 머신러닝이 자주 언급됩니다.
이 분야들은 분명 연구 가치가 큽니다.
하지만 연구가 활발하다는 것과 산업적 양자이득이 이미 입증됐다는 것은 다른 이야기입니다.
예를 들어 작은 분자의 에너지 계산에 성공했다고 해서 실제 신약개발 전체 비용이 바로 줄어드는 것은 아닙니다.
물류 최적화도 작은 문제를 풀었다는 사실보다 같은 시간 안에 기존 솔버보다 더 좋은 해를 찾았는지가 중요합니다.
그래서 저는 ‘적용 가능 분야’와 ‘경제성이 검증된 분야’를 구분해서 보려고 합니다.
18. 현재 가장 현실적으로 보이는 방향은 하이브리드였다
현재 NISQ 단계에서는 전체 문제를 양자컴퓨터 하나에 맡기는 것보다 고전컴퓨터와 역할을 나누는 방식이 현실적으로 느껴졌습니다.
- 고전컴퓨터 → 데이터 전처리
- 고전컴퓨터 → 문제 분해
- 양자컴퓨터 → 특정 부분 계산
- 고전컴퓨터 → 최적화와 결과 검증
다만 워크플로 안에 양자컴퓨터를 넣었다는 사실 자체가 양자이득을 의미하지는 않습니다.
양자 부분이 전체 시간과 비용을 실제로 줄였는지를 별도로 확인해야 합니다.
19. NISQ 관련 보도자료를 볼 때 제가 조심하는 표현
양자컴퓨팅 기사에서는 다음과 같은 표현이 자주 눈에 들어옵니다.
- 세계 최초
- 양자 우위 달성
- 기존 컴퓨터보다 압도적으로 빠름
- 신약 개발 혁신
- 물류·금융 문제 해결
- 상용화 임박
이런 표현을 볼 때 저는 이제 다음 질문을 먼저 합니다.
- 물리 큐비트 수만 강조한 것은 아닌가
- 실제 산업 문제를 풀었는가
- 에러 완화에 든 샷과 후처리 비용을 공개했는가
- 결과를 검증할 수 있는가
- 최신 고전 알고리즘과 다시 비교했는가
20. 공부한 뒤 제가 내린 결론
NISQ와 에러 완화를 공부하기 전에는 양자컴퓨터의 발전을 큐비트 숫자 중심으로 봤습니다.
하지만 지금은 다음 질문이 더 중요하다고 생각합니다.
- 물리 큐비트 오류율은 얼마나 낮은가
- 실제로 어느 정도 깊이의 회로를 실행할 수 있는가
- 2큐비트 게이트 품질은 어떤가
- 결과를 얻기 위해 몇 샷이 필요한가
- 에러 완화로 정확도를 높이기 위해 추가 비용이 얼마나 드는가
- 같은 문제에서 최신 고전 알고리즘보다 나은가
- 전체 시간과 비용까지 포함해 실제 가치가 있는가
NISQ는 완성된 범용 양자컴퓨터라기보다 하드웨어, 알고리즘, 오류 처리 기술을 검증하고 앞으로 어떤 문제에서 양자적 장점을 만들 수 있을지 탐색하는 단계에 더 가깝다고 생각합니다.
결국 실용 양자이득은 단순히 큐비트 숫자를 늘리는 것에서 나오기보다 낮은 오류율의 하드웨어, 효율적인 에러 완화, 회로 최적화, 고전컴퓨팅과의 하이브리드 구조, 산업에 맞는 알고리즘을 하나의 시스템으로 묶을 수 있는가에서 결정될 가능성이 크다고 봅니다.
자주 묻는 질문
Q1. NISQ는 무엇인가요?
NISQ는 Noisy Intermediate-Scale Quantum의 약자로 잡음이 존재하고 완전한 오류 보정을 적용하기 어려운 현재의 양자컴퓨팅 단계를 설명하는 개념입니다.
Q2. NISQ는 큐비트 개수로 구분하나요?
고정된 큐비트 수로 명확하게 구분하는 개념은 아닙니다. 물리 큐비트를 직접 이용하며 잡음 때문에 실행 가능한 회로가 제한되는 시스템을 포괄적으로 설명하는 표현에 가깝습니다.
Q3. 에러 완화와 오류 보정은 같은 기술인가요?
다릅니다. 에러 완화는 반복 실행과 후처리로 잡음 영향을 줄이는 방식이고, 오류 보정은 여러 물리 큐비트에 정보를 인코딩해 논리 큐비트를 만들고 오류를 지속적으로 처리합니다.
Q4. ZNE는 실제로 잡음을 제거하나요?
아닙니다. 서로 다른 잡음 수준에서 얻은 결과를 이용해 잡음이 0일 때의 값을 수학적으로 추정하는 방식입니다.
Q5. 에러 완화를 사용하면 항상 정확도가 좋아지나요?
항상 그런 것은 아닙니다. 잡음 모델과 회로 크기, 샷 수, 장비 상태에 따라 결과가 달라질 수 있으며 추가 실행과 후처리 비용도 함께 고려해야 합니다.
Q6. 실용 양자이득이란 무엇인가요?
실제 가치가 있는 문제에서 최신 고전컴퓨팅과 비교했을 때 정확도, 전체 실행시간, 비용 또는 해결 가능한 문제 규모에서 의미 있는 장점을 제공하는 상태를 말합니다.
※ 이 글은 NISQ, 양자 에러 완화와 실용 양자이득 관련 공개자료를 직접 공부하면서 이해한 내용을 제 관점에서 다시 정리한 글입니다. 양자컴퓨팅 기술 수준은 빠르게 변할 수 있으므로 실제 기술·연구·투자 판단 시에는 최신 논문과 연구기관의 공식 자료를 별도로 확인하는 것이 좋습니다.
0 댓글