양자 컴퓨팅 '골든 게이트' 열었다...주피터 슈퍼컴, 50큐비트 시뮬레이션 성공

유럽 최초의 엑사스케일 슈퍼컴퓨터인 주피터(JUPITER)가 세계 컴퓨팅 역사에 새로운 이정표를 세웠다고 과학 기술 전문매체 인터레스팅 엔지니어링이 11일(현지시각) 보도했다.
보도에 따르면 주피터는 전 세계 양자 벤치마크를 깨고, 사상 처음으로 50큐비트 범용 양자 컴퓨터를 완벽하게 시뮬레이션하는 데 성공했다.

이번 성과는 기존 컴퓨팅의 물리적 한계를 최대로 끌어올린 것으로 평가받으며, 성숙한 양자 기계가 실제로 등장하기 훨씬 이전에 양자 알고리즘을 개발하고 시험할 수 있는 결정적인 전기를 마련했다.

이 획기적인 발견은 독일 율리히 슈퍼컴퓨팅 센터(JSC) 연구진이 엔비디아(NVIDIA) 전문가들과의 긴밀한 협력을 통해 이뤄졌다. 이들의 기록은 율리히 과학자들이 이전에 세웠던 최고 기록인 48큐비트를 뛰어넘는 것이며, 지난 9월 가동을 시작한 신형 주피터 시스템의 압도적인 역량을 전 세계에 입증했다.
양자 컴퓨터 시뮬레이션은 미래 양자 기술의 실현 가능성을 미리 시험하는 필수적인 장이다. 과학자들은 이를 통해 양자 프로세서가 안정적으로 가동되기 전에 이미 VQE(Variational Quantum Eigensolver)나 QAOA(Quantum Approximate Optimisation Algorithm)와 같은 최적화 접근법을 활용한 분자 모델링 방법을 탐색할 수 있다.

그러나 기존 기계로 양자 회로를 시뮬레이션하는 것은 극도로 어렵다. 큐비트가 하나 추가될 때마다 메모리와 컴퓨팅 요구 사항이 두 배로 늘어나는 기하급수적인 증가를 초래하기 때문이다. 이로 인해 아무리 강력한 하드웨어라도 곧 한계에 부딪힌다.

일반 노트북이 처리할 수 있는 큐비트가 약 30개 수준에 불과한 데 반해, 50큐비트를 시뮬레이션하기 위해서는 약 2페타바이트의 메모리와 JUPITER의 핵심인 GH200 슈퍼칩의 완벽한 조율이 필요했다.

인터레스팅 엔지니어링에 따르면 크리스텔 미힐센 교수는 "현재 세계 최대 규모의 슈퍼컴퓨터만이 이러한 수준의 성능을 제공한다"며, "이러한 사용 사례는 고성능 컴퓨팅(HPC)과 양자 연구의 발전이 얼마나 긴밀하게 얽혀 있는지를 명확하게 보여준다"고 강조했다.
이번에 개발된 50큐비트 시뮬레이터는 실제 양자 프로세서의 물리학을 오차 없이 정확하게 재현한다. 각 양자 게이트는 2조 개 이상의 복소수에 영향을 미쳤으며, 이 모든 연산은 수천 개의 컴퓨팅 노드에 걸쳐 완벽하게 동기화되어야 했다. 이러한 엄청난 규모 때문에 초기 시뮬레이션 시도는 거의 불가능한 난제로 여겨졌다.

이러한 획기적인 발전은 JSC가 개발한 시뮬레이션 소프트웨어인 **JUQCS(Jülich Universal Quantum Computer Simulator)**의 혁신을 통해 가능해졌다. 새로운 버전인 JUQCS-50은 NVIDIA GH200 Superchips의 하이브리드 메모리 아키텍처를 극대화해, 최소한의 성능 손실로 GPU에서 CPU 메모리로 데이터를 일시적으로 오프로드하는 기술을 구현했다.

여기에 더해, 새로운 바이트 인코딩 압축 방식은 메모리 요구 사항을 8배나 줄이는 결정적인 역할을 했으며, 동적 알고리즘은 시뮬레이션 중에 16,000개가 넘는 슈퍼칩 간의 데이터 전송을 끊임없이 최적화했다.

연구의 주저자인 한스 드 라트 교수는 "JUQCS-50을 사용해 높은 충실도로 범용 양자 컴퓨터를 에뮬레이션하고, 기존 양자 프로세서가 아직 해결하지 못하는 문제들을 해결할 수 있게 되었다"고 밝혔다.
이 시뮬레이션 기능은 곧 율리히 양자 컴퓨팅 통합 인프라(JUNIQ)에 통합되어 외부 연구원과 기업들이 이 혁신적인 도구를 활용할 수 있게 될 예정이다. JUQCS-50은 차세대 슈퍼컴퓨터의 핵심 연구 엔진이자, 성능을 검증하는 벤치마크로서의 역할을 수행할 것으로 기대된다.

이 프로젝트는 주피터 연구 및 조기 접근 프로그램(JUREAP)에서 시작되었으며, 율리히 전문가들과 NVIDIA 엔지니어들이 슈퍼컴퓨터를 구축하는 초기 단계부터 하드웨어와 소프트웨어를 공동으로 설계했다. 안드레아스 헤르텐 박사는 "초기부터의 협업을 통해 주피터 건설 단계에서 하드웨어와 소프트웨어를 공동 설계할 수 있었다"고 설명했다.

주피터의 이번 성과는 고전적 시스템을 사용하여 양자 알고리즘을 본격적으로 테스트하는 데 있어 결정적인 진전을 나타내며, 양자 컴퓨팅과 고성능 컴퓨팅이 융합됨에 따라 급속한 발전을 위한 확고한 토대를 마련했다.


이태준 글로벌이코노믹 기자 tjlee@g-enews.com