9월 25일 대전 큐노바 사무실에서 만난 이준구 KAIST 전기전자공학부 교수가 하이브리드 양자알고리즘을 구동하는 시스템과 장비에 대해 설명하고 있다. 과학동아 제공


원수를 쫓아 솔베 계곡으로 간 양자광은 거대한 바위 앞에 가로막힌다. 그는 사부와의 수련 중 몸과 마음에 분산된 내공을 검 끝에 집중시켰던 순간을 떠올린다. 양자 연구도 다르지 않다. 서로 다른 고전컴퓨터와 양자컴퓨터를 하이브리드로 엮어 성능을 끌어올린다. 하이브리드 양자알고리즘의 선구자 이준구 KAIST 전기전자공학부 교수를 9월 25일 만났다. 바다이야기5만
● 양자컴 병목 뚫을 신무기 ‘양자알고리즘’
양자컴퓨터는 ‘꿈의 계산기’로 불린다. 우주의 나이만큼이나 오랜 시간이 걸려 풀 문제도 단 몇 초 안에 푼다고 알려져 있다. 하지만 양자컴퓨터는 아직 큐비트 수가 적고 오류도 극심하다. 잠재력에도 불구하고 당장 분자 계산이나 신약 개발에 쓰지 못하는 이유다.
릴게임바다이야기사이트 물리학자들과 양자컴퓨터 기업들은 현실적 한계를 극복하기 위해 큐비트와 같은 양자컴퓨터의 하드웨어 개선에 전념한다. 초전도체, 중성원자, 이온트랩 등 여러 양자 큐비트 플랫폼이 공존하며 경쟁 중이다. 
양자컴퓨터 상용화는 여전히 멀었다는 게 중론이다. 양자컴퓨터의 한계를 뚫기 위해 소프트웨어 분야에서 새로운 전략이 떠오르고 있다. ‘ 온라인야마토게임 하이브리드 양자알고리즘’이 대표 주자다.
“하이브리드 양자알고리즘은 양자컴퓨터와 고전컴퓨터가 소통할 수 있도록 연결하며 둘의 협력을 돕습니다.” 
대전에 위치한 양자소프트웨어 벤처기업 ‘큐노바’ 사무실에서 만난 이준구 KAIST 전기전자공학부 교수는 하이브리드 양자알고리즘이 새로운 돌파구가 될 것이라 내다봤다. 그는 바다이야기무료 하이브리드 양자알고리즘을 개발한 국내 몇 안 되는 양자알고리즘 연구자다. 
KAIST AI양자컴퓨팅 ITRC 센터장을 맡았던 이 교수는 교내에서 양자알고리즘을 갈고닦은 끝에 2021년 양자컴퓨팅 솔루션 기업인 큐노바 창업에 나섰다.
하이브리드 양자알고리즘이란 고전컴퓨터와 양자컴퓨터가 각자의 강점을 가지고 협력하는 계산 뽀빠이릴게임 방식을 뜻한다. 예컨대 화학 반응을 계산할 때 100% 정확한 결과를 얻기 위해서는 반응 속에 미세하게 나타나는 양자적 현상까지 파악해야 한다. 
양자적 현상 부분은 기존 고전컴퓨터 중 가장 성능이 좋다는 슈퍼컴퓨터로도 수행하기 어렵다. 지금까지는 약간의 오류를 감안하고 근사하는 식으로 처리했다.
양자컴퓨터는 고전컴퓨터가 풀지 못하는 문제에서 진가를 발휘한다. 흔히 ‘양자 우위를 보인다’고 하는 문제다. 하지만 양자컴퓨터가 워낙 불안정해 실제로 활용하기는 어려웠다.
고전컴퓨터와 양자컴퓨터를 연결하는 방식이 하이브리드 양자알고리즘이다. 이 교수는 “기존 컴퓨터가 전체 계획을 짜면 양자컴퓨터가 양자역학적 특성을 빠르게 계산하고 계산된 결과를 고전 방식의 슈퍼컴퓨터가 이어서 처리한다”면서 “양자컴퓨터가 아직 완벽하지 않은 상태에서 양자컴퓨터의 잠재력을 활용하는 현실적인 방법”이라고 설명했다.
● 양자컴과 고전컴을 ‘통역’하는 방법
고전컴퓨터와 양자컴퓨터를 어떻게 연결하는 걸까. 양자컴퓨터가 양자 우위를 갖는 문제에서 고전컴퓨터의 성능을 압도한다고 한들, 고전컴퓨터와 양자컴퓨터가 다루는 두 문제는 축구와 야구처럼 비슷한 듯 다른 영역이다. 두 컴퓨터는 축구 선수와 야구 선수처럼 서로 다른 영역에서 활약하는 플레이어인 셈이다. 규칙이나 언어가 다를 수밖에 없다.
이 교수는 자신이 개발한 하이브리드 양자알고리즘이 둘을 잇는 ‘통역사’ 역할을 한다고 전했다. 그가 말한 소통의 방법은 ‘변환’이다.
먼저 고전컴퓨터로 얻고자 하는 분자의 에너지 정보를 전체적으로 설계한다. 에너지 정보에는 분자 속 전자들의 양자역학적 정보가 포함된다. 양자역학적 정보란 분자 속에 복잡하게 얽힌 전자들의 위치나 운동량 등의 정보로서 경우의 수에 따른 확률이 기하급수적으로 많다. 이 때문에 양자역학적 정보는 고전컴퓨터로 계산하는 데 한계가 있다.
하이브리드 양자알고리즘은 양자역학적 정보를 양자컴퓨터가 풀도록 유도한다. 화학 반응 계산 예시로 돌아가 보자. 알고리즘이 입력된 양자컴퓨터는 고전컴퓨터의 전체 설계에 맞춰 복잡한 분자 속 양자역학적 정보를 계산한다. 고전컴퓨터로는 해석이 안 되는 언어를 이 분야의 전문가인 양자컴퓨터가 해독해 주는 셈이다.
양자역학적 정보값을 고전컴퓨터가 읽을 수 있는 디지털 데이터로 바꾼다. 이후 고전컴퓨터는 분자의 양자역학적 정보, 질량과 구조 등 분자에 관한 전체적인 화학 계산을 이어받는다. 
고전컴퓨터가 잘하는 부분에서는 고전컴퓨터가 나서는 방식이다. 고전컴퓨터로 나온 데이터는 또다시 양자컴퓨터를 거쳐 양자역학적 정보를 엄밀히 검증하고 앞선 과정을 반복하면서 정확도를 끌어올린다.



큐노바는 하이브리드 양자알고리즘으로 기업들에게 맞춤형 솔루션을 제공한다. 큐노바 제공


고전과 양자 두 방법을 번갈아 계산하면 양자역학적 영역을 제외하고 일부만 풀었던 화학 반응의 결과를 온전히 알아낼 수 있다. 
“원자는 전자기장과 같은 고전적인 원리에 의해 서로 결합하기도 하지만 양자역학적 이유에서 결합하기도 합니다. 분자 구조를 정밀하게 해석하려면 양자역학적 효과까지 정확히 이해해야 해요. 앙자역학적 효과 부분은 계산이 매우 복잡하죠. 실무에서는 다양한 근사치로 계산 속도를 높입니다. ‘실눈 뜨기’처럼 문제를 보는 거죠. 100% 정확한 값을 알 수는 없어요. 양자역학적 효과를 극복하기 위해선 양자컴퓨팅이 필요합니다.”  



하이브리드 양자알고리즘은 양자컴퓨터가 계산하는 문제에 관한 전체 정보(5개의 원) 중 불필요한 부분을 제외하고 필요한 부분만 계산할 수 있도록 돕는다. 계산에 필요한 경우의 수는 32에서 4로 줄어든다. 이때 오류도 함께 감소한다. 큐노바 제공


● 같은 선수로 결과 끌어올리는 ‘명감독’
양자컴퓨터의 고질적 문제인 ‘오류’는 어떻게 억제할까. 이 교수는 하이브리드 양자알고리즘의 강점이 바로 여기서 나온다고 말했다. 하이브리드 양자알고리즘을 이용하면 오류를 줄이는 ‘타깃팅’이 가능해진다.
“하이브리드 알고리즘은 오류를 내는 연산 경로에 반응하지 않게 이끌어요. 양자컴퓨터는 문제의 모든 걸 동시에 훑느라 오류가 발생하는데 양자알고리즘은 딱 필요한 것만 분간한 다음 시작하죠. 방 전체를 일일이 스캔하느냐 내가 원하는 일부 공간만 스캔하느냐의 차이입니다. 이렇게 하면 오류 역시 급격히 줄어요. 오류를 줄여 얻은 양자정보를 알고리즘이 변환해 고전컴퓨터로 가져다줍니다.”
모든 걸 계산하기에는 고전컴퓨터는 너무 느리다. 양자컴퓨터는 더 빠르지만 모든 정보를 거쳐갈수록 오류 발생 확률이 치솟는다. 이에 대안으로 처음부터 문제의 해답에 필요한 양자역학적 정보만 ‘스캔’해서 계산하는 방법을 고안했다. 원하는 일부만 계산해 오류를 줄인다는 건 양자컴퓨터의 성능을 실질적으로 끌어올린다는 뜻이다.
양자 모델의 모든 과정을 양자컴퓨터로 직접 계산하면 오류가 그대로 결과에 반영된다. 하이브리드 양자알고리즘에서 양자알고리즘 부분은 양자컴퓨터가 핵심만 짚도록 이끄는 역할이다. 이 교수는 하이브리드 양자알고리즘을 축구 감독에 비유했다. 
“양자 플랫폼 연구가 선수를 계속 교체하거나 더 좋은 선수를 영입해 성적을 끌어올리려 했다면 양자알고리즘은 같은 선수로도 최적의 전술을 써서 이기는 방법입니다. 지금까지는 1000개의 큐비트를 개발해도 그중 절반도 활용하지 못했습니다. 하이브리드 양자알고리즘이 이 문제를 해결할 것입니다.”
● 양자알고리즘이 세상 모든 화학 문제 풀까
고전컴퓨터와 양자컴퓨터의 협력이 효과적이라는 건 분명해졌다. 협력은 구체적으로 어디에 활용될 수 있을까. 
이 교수는 ‘화학 문제’를 예로 들었다. 그가 현재 집중 연구하는 양자알고리즘은 입자의 에너지 준위를 찾는 ‘VQE(Variational Quantum Eigensolver)’다. 큐노바는 기존 VQE의 성능을 한 단계 개선한 ‘HI-VQE’를 대표 알고리즘으로 내세운다.



고전컴퓨터 속 CPU와 양자컴퓨터 속 QPU가 협업하는 모습에 대한 상상 이미지. 이준구 KAIST 전기전자공학부 교수는 “하이브리드 양자알고리즘이 양자컴퓨터 상용화를 열 것”이라고 기대했다. KIST 제공.


그는 화학적 정확도의 중요성을 강조하며 양자알고리즘이 해결할 미래의 모습을 그렸다.
“화학 문제는 얼마만큼의 화학적 정확도를 달성하느냐가 핵심이에요. 화학적 정확도는 화학 반응의 결과를 얼마나 정확히 예측할 수 있는지 혹은 화학적 물질이 어떻게 나올지를 예측하는 정도를 말합니다.  화학 반응을 정밀히 계산하면 실생활에도 많은 이점이 생겨요. 한국에서 특히 크게 발달한 굴뚝산업(제조업처럼 배기가스를 배출하는 산업)의 경우 이산화탄소 배출이 엄청나게 많은데 이때 탄소포집 프로세스 효율을 어떻게 더 높일 수 있을지 살펴볼 수 있죠. 탄소를 흡착한 뒤 재사용할 수도 있고요.”
화학 문제는 이뿐만 아니라 배터리, 자동차, 반도체처럼 한국의 주요 산업 전반에 모두 적용된다. 이 교수는 “세상 모든 일에는 화학 반응이 일어난다”고 강조했다. 
“심지어 우리 몸도 화학 공장입니다. 하이브리드 양자알고리즘의 우수성을 의약품에도 적용할 수 있다는 뜻이죠. 화학 분야에서 양자컴퓨팅 솔루션이 고전컴퓨팅 성능을 능가하기 시작했고 이러한 양자 우위가 물류, 금융 분야 최적화 응용으로 확산되고 있습니다. 모든 첨단 산업에서 획기적인 효율 개선과 산업 고도화가 일어날 겁니다.”
※관련기사 과학동아 11월호, 고전컴퓨터와 양자컴퓨터의 듀엣 이끈다…하이브리드 양자알고리즘
[대전=박동현 기자 parkdd@donga.com]