MS·퀀티넘, 양자 오류 수정 대전환...초격차 논리 큐비트 시대 열었다

양자 컴퓨터가 마침내 난공불락으로 여겨졌던 ‘오류 발생’의 벽을 깨고 실용화 단계로 진입할 전기를 마련했다.
13일(현지시각) 양자 컴퓨팅 전문매체 퀀티넘 인사이드에 따르면 마이크로소프트(MS) 퀀텀과 양자 컴퓨팅 선도 기업 퀀티넘(Quantinuum) 공동 연구팀은 정교하게 설계된 오류 수정 기술을 통해 계산 오류율을 하드웨어 자체의 물리적 오류율보다 획기적으로 낮추는 데 성공했다고 세계적인 국제 학술지 ‘네이처(Nature)’를 통해 발표했다.

이번 연구는 2024년 두 회사가 처음 선보였던 논리 큐비트 생성 시연을 확장한 것으로, 실제 계산 과정에서 발생하는 오류를 반복적으로 억제할 수 있음을 완벽히 입증했다는 점에서 과학계의 이목을 집중시키고 있다.

1만 5,000번의 실험, 오류는 ‘0’...물리적 한계 넘은 압도적 성능
양자 컴퓨터의 기본 단위인 큐비트는 주변 환경의 미세한 자극에도 쉽게 변형되어 오류를 일으키는 치명적인 약점을 갖고 있다. 기존 컴퓨터처럼 데이터를 복사해 백업하는 것이 불가능한 양자 역학의 특성상, 정보의 손상 없이 오류를 잡아내는 것은 양자 컴퓨팅 상용화의 최대 난제로 꼽혀왔다.

연구팀은 퀀티넘의 ‘트랩 이온(Trapped-ion) 양자 프로세서’를 활용해 이 문제를 정면으로 돌파했다. 물리적 큐비트에서 직접 수행한 기존 계산과 비교했을 때, 새로운 오류 수정 방식을 적용한 결과 최소 11배에서 최대 800배에 이르는 압도적인 성능 향상을 달성했다.

MS 연구팀은 블로그를 통해 “과거 1만 4,000건 이상의 실험에서 단 하나의 오류도 없이 가장 신뢰할 수 있는 논리 큐비트를 개발한 데 이어, 최근에는 12개의 고신뢰성 논리 큐비트를 제작했다”며 “이를 인공지능(AI), 고성능 컴퓨팅(HPC)과 결합한 하이브리드 화학 시뮬레이션에 적용해 실제 과학적 문제를 해결할 수 있는 워크플로우까지 검증했다”고 밝혔다.


연구팀은 퀀티넘의 아키텍처에 최적화된 두 가지 핵심 오류 수정 코드를 독자 개발했다.
탄소 코드(Carbon Code): 12개의 물리적 큐비트로 2개의 논리 큐비트를 보호한다.

테서랙트 서브시스템 코드(Tesseract Code): 16개의 물리적 큐비트를 사용해 4개의 논리 큐비트를 보호하며, 더욱 효율적인 오류 수정 절차를 지원한다.

결과는 극적이었다. 양자 얽힘의 기본 형태인 벨 상태(Bell state)를 통한 테스트에서 보호 장치가 없을 때 0.8%였던 오류율이 탄소 코드를 적용하자 0.17%로 뚝 떨어졌다. 여기에 특정 오류 신호가 있는 실행 결과를 제외하는 필터링 전략을 결합하자, 15,000번이 넘는 실험에서 단 한 건의 오류도 발생하지 않는 ‘오류율 0.001%’의 기적을 기록했다. 이는 물리적 기준선 대비 무려 800배가 개선된 수치다.

특히 계산이 진행되는 도중 최대 10회에 걸쳐 오류를 바로잡는 ‘연산 중간 오류 수정’에서도 주기당 오류율을 0.006%로 묶어두며 기준선 대비 50배 이상의 성능 향상을 보였다. 연산 중간에 오류를 반복 제어하는 효과를 입증한 것은 학계 최초다.
더 나아가 테서랙트 코드를 활용해 4개, 8개, 12개의 논리 큐비트를 포함하는 복잡한 그래프 상태를 구현한 실험에서도 인코딩되지 않은 기존 방식보다 최소 11배에서 22배까지 뛰어난 성능을 일관되게 유지했다.


이번 연구는 현재의 양자 하드웨어 수준에서도 오류 수정 시스템이 가져다주는 이점이 이를 구현하기 위한 시스템적 오버헤드(추가 비용)보다 훨씬 크다는 점을 완벽히 증명했다는 점에서 의미가 깊다.

다만 상업용 양자 컴퓨터로 가기 위해 넘어야 할 산은 아직 남아 있다. 이번 실험은 분석 과정에서 특정 오류 패턴을 걸러내는 사후 선택(Post-selection) 기법에 일부 의존했으며, 실시간 디코딩 및 피드포워드 수정이 완벽히 적용되지 않아 후처리 과정에서 많은 결정이 이뤄졌다. 향후 확장 가능한 시스템으로 나아가기 위해서는 계산과 동시에 실시간으로 오류를 판별하고 제어할 수 있는 하드웨어와 제어 시스템의 고도화가 필수적이다.

학계와 업계 전문가들은 이번 성과를 양자 컴퓨팅이 단순한 ‘개념 증명’ 단계를 넘어, 실제 알고리즘을 구동할 수 있는 ‘견고한 아키텍처’로 진화하고 있음을 보여주는 결정적 증거로 평가하고 있다.

연구진은 논문을 통해 “이번 결과는 현재의 양자 프로세서로도 소형 회로의 오류율을 강력하게 억제할 수 있음을 보여준다”며 “향후 연구는 이 시스템을 대규모로 확장하고 실시간 디코딩을 통합하는 한편, 더 광범위한 내결함성(Fault-tolerant) 연산 기능을 개발하는 데 집중될 것”이라고 강조했다.


이인수 글로벌이코노믹 기자 tjlee@g-enews.com