[김대호 진단] AI 속도조절론과 맨해턴프로젝트 역사의 교훈

인공지능 AI를 둘러싸고 말들이 많다. AI를 인류를 전멸시킬 수도 있다는 우려를 목소리를 들으면서 인류 역사에 큰 분수령이 된 핵무기 개발 맨해턴프로젝트의 교훈을 반추해 보게 된다.
1945년 7월 16일 새벽 5시 29분, 미국 뉴멕시코주 알라모고르도의 사막 한가운데서 섬광이 번쩍였다. 역사상 최초의 핵실험인 '트리니티(Trinity)'의 폭발이었다. 태양보다 밝은 빛이 암흑을 찢고 거대한 버섯구름이 솟구쳐 오르는 광경을 목격한 물리학자 오펜하이머는 힌두교 경전 『바가바드 기타』의 한 구절을 떠올렸다.

"나는 이제 죽음이요, 세상의 파괴자가 되었도다."

그 찰나의 폭발은 인류가 스스로를 절멸시킬 수 있는 절대적 물리력을 손에 넣었음을 알리는 비극적 서막이었다. 나치 독일보다 먼저 원자폭탄을 만들어 전쟁을 끝내야 한다는 절박한 사명감 속에서 추진되었던 '맨해튼 프로젝트(Manhattan Project)'는 그렇게 인류에게 승리와 함께 영원히 씻기지 않을 실존적 공포를 안겨주었다.
반세기가 훌쩍 지난 오늘날, 우리는 다시 한번 뉴멕시코의 황량한 새벽과 흡사한 기시감(Déjà vu) 앞에 서 있다. 차이가 있다면 이번에 인류가 깨워낸 거인은 물리적 질량과 에너지를 매개로 하지 않는다는 점이다. 그것은 무형의 신경망, 수천억 개의 파라미터, 거대한 데이터센터의 침묵 속에서 증식하는 '인공지능(Artificial Intelligence)'이라는 지적(知的) 절대자다.문장을 생성하고, 코드를 작성하며, 단백질 구조를 예측하고, 인간의 전유물이라 여겨졌던 추론과 창의성의 영역까지 넘나드는 초지능(AGI)의 태동은 과학기술 혁명의 정점을 가리키고 있다. 그러나 환호의 이면에는 깊은 전율이 흐른다. 인류 문명보다 뛰어난 지능체가 등장했을 때, 통제권의 상실과 실존적 위험은 과연 감당할 수 있는 것인가.

맨해튼 프로젝트는 단순히 거대한 무기 개발 사업이 아니었다. 그것은 국가 권력, 자본, 과학적 호기심, 지정학적 패권 경쟁, 그리고 윤리적 맹목성이 결합하여 문명의 궤도를 뒤흔든 '거대 기술(Megatechnology)'의 원형이었다. 지금 우리가 목도하고 있는 AI 군비 경쟁은 맨해튼 프로젝트의 전개 양상과 놀라울 정도로 흡사하다. 따라서 우리는 인공지능이 가져올 미래를 조망하기에 앞서, 80여 년 전 로스앨러모스의 과학자들이 걸어갔던 길과 그들이 남긴 뼈아픈 교훈을 냉철하게 복기해야만 한다.

"'프로메테우스의 유혹"

맨해튼 프로젝트에 집결했던 과학자들은 당대 최고의 지성이었다. 엔리코 페르미, 한스 베테, 리처드 파인만, 존 폰 노이만 등 인류 역사상 다시 보기 힘든 천재들이 사막의 비밀 연구소에 모여들었다. 그들의 초기 동기는 명확했다. 나치 독일이 핵분열을 무기화하기 전에 연합군이 먼저 이를 확보해야 한다는 실존적 방어 논리였다. 알베르트 아인슈타인과 레오 실라르드가 루스벨트 대통령에게 보낸 서한 역시 그러한 두려움의 발로였다. 연구가 본궤도에 오르자 그들을 추동한 내면의 동력은 점차 변질되었다. 방어적 절박함 위에 순수한 과학적·기술적 호기심, 즉 '자연의 궁극적 비밀을 풀어내고 이를 실현해 보이겠다'는 지적 쾌락이 얹어진 것이다.
오펜하이머는 훗날 의회 청문회에서 다음과 같이 고백했다.

"기술적으로 너무나 매력적인(technically sweet) 것을 보게 되면, 사람들은 일단 그것을 실행에 옮기고 봅니다. 그것이 성공한 다음에야 비로소 그에 대해 무엇을 할지 고민하게 되는 법입니다."

이 '기술적 매혹'이야말로 과학기술자가 빠지기 쉬운 가장 치명적인 함정이다. 이론적으로 가능한가, 기술적으로 구현할 수 있는가에 몰입하는 순간, '이것이 과연 존재해야 하는가'라는 철학적·존재론적 질문은 뒤로 밀려난다. 일단 불을 지피고 나면 그 불길이 숲을 태우든 집을 덥히든 상관없이, 불을 피우는 행위 자체에 도취되는 것이다.현재 생성형 AI와 대규모 언어 모델(LLM), 자율 에이전트를 개발하는 글로벌 빅테크 기업들과 인공지능 연구자들의 태도 역시 이와 다르지 않다. 파라미터의 수를 기하급수적으로 늘리고, 컴퓨팅 자원을 한계까지 밀어붙여 '창발(Emergence)' 현상을 확인하는 과정은 연구자들에게 극도의 지적 희열을 선사한다. 인간의 뇌신경망 구조를 모방한 인공 신경망이 스스로 학습하여 인간의 직관에 필적하는 답을 도출할 때, 개발자들은 경이로움에 사로잡힌다.

문제는 이러한 개발 과정에서 '불가역성(Irreversibility)'이 발생한다는 점이다. 기술은 한 번 세상에 태어나면 결코 태내로 되돌릴 수 없다. 원자폭탄의 메커니즘이 한 번 증명된 이상 인류가 핵분열 이전의 순진한 세계로 돌아갈 수 없었듯이, 인간 수준의 지능을 가진 모델이 오픈소스로 풀리고 상용화되는 순간 기술의 되감기 버튼은 영원히 사라진다. "일단 만들고, 안전은 나중에 고민하자"는 실리콘밸리의 오랜 격언 '신속하게 움직이고 파괴하라(Move fast and break things)'는, 디지털 세계를 넘어 인류의 문명적 기반 자체를 파괴할 수 있는 AI 시대에는 더 이상 유효하지 않은 위험천만한 교리다.

통제력을 압도하는 지정학적 공포

맨해튼 프로젝트를 끝까지 밀어붙인 진정한 외적 엔진은 '공포'와 '속도전'이었다. 상대방이 먼저 무기를 개발할지 모른다는 공포는 모든 신중함과 절차적 민주주의를 무력화했다. 흥미로운 사실은 1944년 말, 연합군 정보국(알소스 사절단)에 의해 독일의 핵개발 계획이 지리멸렬한 상태이며 기술적으로 완성 단계에 도달하지 못했다는 사실이 밝혀졌음에도 프로젝트가 멈추지 않았다는 점이다.

원초적 정당성이었던 '독일의 위협'이 사라졌음에도 불구하고, 로스앨러모스의 시계는 오히려 더 빠르게 돌아갔다. 이미 수십억 달러의 예산과 수십만 명의 인력이 투입된 거대한 관성, 전후(戰後) 소비에트 연방과의 새로운 패권 경쟁에서 절대적 우위를 점해야 한다는 군사정치적 계산, 그리고 전쟁을 조기에 종식시켜 자국민의 희생을 줄여야 한다는 공리주의적 명분이 결합했기 때문이다. 공포로 시작된 기술 개발은 패권의 유지라는 또 다른 욕망과 결합하여 자가발전하기 시작했다.

오늘날의 AI 경쟁 구도는 맨해튼 프로젝트 당시의 지정학적 긴장을 소름 끼칠 정도로 완벽하게 재현하고 있다. 미국과 중국을 필두로 한 글로벌 기술 패권 경쟁은 AI 개발의 윤리적 안전장치를 지속적으로 마모시키고 있다.서구의 정책 입안자들과 기술 기업의 수장들은 한목소리로 경고한다. "우리가 안전을 이유로 개발 속도를 늦춘다면, 권위주의 국가가 먼저 초지능을 확보하여 세계 질서를 재편할 것이다." 이른바 '상대적 지체에 대한 공포'다. 이 논리 구조 안에서 기술의 위험성을 경고하는 목소리는 국가 안보를 저해하는 한가한 이상주의로 치부된다.

결국 AI 개발 경쟁은 '죄수의 딜레마(Prisoner's Dilemma)'에 빠져들었다. 모두가 안전을 점검하며 속도를 늦추는 것이 전 지구적 관점에서는 최선의 선택(파레토 최적)임을 알고 있으면서도, 상대방이 배신하고 홀로 질주할 것을 두려워한 나머지 서로 가속 페달을 더욱 깊게 밟고 있는 형국이다. 군사 분야에서의 자율살상무기(LAWS) 도입, 사이버전 자동화, 국가 주도의 칩 연합 및 수출 규제 등은 인공지능이 이미 단순한 산업 기술이 아니라 21세기형 핵무기, 즉 '전략적 억제력의 핵심 자산'으로 인식되고 있음을 웅변한다. 공포가 이성을 지배할 때, 기술은 안전의 통제를 벗어나 폭주하게 마련이다.


원자폭탄 개발 과정에서 가장 비극적인 지점 중 하나는 지식의 분절과 관료제적 구획화였다. 프로젝트의 총지휘관이었던 레슬리 그로브스 장군은 철저한 '칸막이식 보안(Compartmentalization)'을 시행했다. 수만 명의 노동자와 기술자들은 자신이 오크리지의 공장에서 원심분리기를 돌리고 플루토늄을 정제하면서도, 이것이 궁극적으로 어떤 괴물을 만들어내는지 알지 못했다. 심지어 상당수의 과학자들조차 자신이 연구하는 특정 계산식이 폭탄의 어느 부속으로 들어가는지 온전히 파악하지 못했다.

이러한 분절화는 과학자들에게 도덕적 면죄부를 제공했다. 개별 주체는 단지 주어진 수학적 방정식을 풀거나, 화학적 순도를 높이는 '국소적 최적화'에만 몰두하면 되었기에, 자신이 저지르는 행위의 총체적 악(惡)이나 결과적 비극으로부터 심리적으로 격리될 수 있었다. 도덕적 고뇌는 분절된 작업의 틈새로 증발해 버렸다.

인공지능 분야에서 이는 현대적인 형태의 '정렬 문제(Alignment Problem)'이자 '블랙박스(Black Box)' 문제로 치환된다. 현대 딥러닝 기반의 AI 모델은 수억, 수조 개의 노드가 상호작용하는 복잡계다. 개발자조차 모델이 왜 특정한 결론을 내렸는지 역추적하여 명확히 설명하지 못한다. 지능을 프로그래밍하는 것이 아니라 데이터의 바다 속에서 스스로 규칙을 학습하도록 방치하기 때문이다.

여기서 결정적인 괴리가 발생한다. 우리가 AI에 부여하는 목표 함수(Objective Function)와 인류의 본질적인 번영 및 도덕적 가치가 완전히 일치하지 않을 때 일어나는 파국이다. 철학자 닉 보스트롬이 제시한 '클립 역설(Paperclip Maximizer)'처럼, 기계에 주어진 단편적이고 최적화된 명령은 인간의 가치관과 정렬(Align)되지 않았을 때 재앙을 초래할 수 있다.

더욱 심각한 것은 AI 개발 생태계의 도덕적 분절화다.알고리즘 개발자는 "나는 코드를 짤 뿐이며 데이터가 편향된 것"이라 말한다.데이터 엔지니어는 "우리는 웹상의 데이터를 수집했을 뿐이며 필터링 알고리즘이 미흡했다"고 항변한다.기업 경영진은 "우리는 주주 가치를 극대화하고 시장의 수요에 부응할 뿐, 규제는 정부의 몫"이라며 발을 뺀다. 그리고 정부 관료는 "혁신을 가로막지 않으면서도 산업 경쟁력을 확보해야 한다"며 결단을 유예한다. 책임의 주체는 파편화되고, 그 누구도 이 거대한 지적 피조물의 최종 행동에 대해 총체적 책임을 지지 않는 구조. 이는 과거 오크리지와 로스앨러모스의 노동자들이 거대한 파괴의 도구를 조립하면서도 양심의 가책을 느끼지 못했던 구조적 맹점과 본질적으로 정확히 일치한다.


역사가 우리에게 주는 가장 절절한 교훈은, 기술의 위험성을 가장 먼저 깨달은 자들이 바로 그 기술을 낳은 산파들이었다는 사실, 그리고 그들의 경고가 정치와 권력의 논리 앞에서 얼마나 처참하게 묵살되었는가 하는 점이다.핵무기 개발의 시초를 열었던 헝가리 출신의 물리학자 레오 실라르드는 독일이 패망하자 즉각 태도를 바꾸었다. 그는 원자폭탄이 실제로 사용될 경우 전 세계적인 핵 군비 경쟁이 촉발될 것임을 예견하고, 트루먼 대통령에게 폭탄의 실전 사용을 재고해 달라는 청원서를 작성하여 동료 과학자 70여 명의 서명을 받았다.

시카고 대학의 제임스 프랑크를 중심으로 한 과학자들 역시 1945년 6월, 이른바 '프랑크 보고서(Franck Report)'를 작성하여 미 육군성에 제출했다. 그들의 주장은 탁월하고도 선구적이었다.그 첫째는 원자폭탄의 실전 투하는 전후 소련과의 무제한 핵 군비 경쟁을 촉발할 것이라는 경고했다. 둘째는 일본의 무조건 항복을 유도하기 위해 민간인 도시를 파괴하는 대신, 무인도나 사막에서 연합국과 일본 대표단이 참관하는 '시위 폭발(Demonstration)'을 보여주어야 한다는 의견이었다. 그리고 셋째 핵 에너지는 비밀주의가 아닌, 전 지구적인 다자간 통제 기구의 감시하에 놓여야 한다고 주장했다.

이 보고서는 정치인들과 군 수뇌부의 냉소를 받으며 묵살되었다. 군사적 효율성, 소비에트 연방에 대한 무력 과시, 그리고 개발에 들어간 천문학적 비용의 정당화라는 거대한 현실주의의 벽 앞에서 과학자들의 도덕적 고언은 힘을 쓰지 못했다. 결국 1945년 8월 6일과 9일, 히로시마와 나가사키는 지옥도로 변했다.

전쟁이 끝난 후 오펜하이머를 비롯한 많은 과학자들은 깊은 죄책감과 후회에 시달렸다. 오펜하이머는 수소폭탄(슈퍼 폭탄) 개발에 반대하다가 매카시즘 광풍 속에서 보안 인가를 박탈당하며 공직에서 쫓겨났다. 실라르드는 핵물리학을 떠나 생물학으로 전공을 바꾸었고, 아인슈타인은 러셀과 함께 반핵 선언을 발표하며 여생을 핵무기 철폐 운동에 바쳤다. 그러나 이미 사막을 떠난 마귀는 결코 병 속으로 다시 들어가지 않았다.

우리는 지금 인공지능 연구의 최전선에서도 이와 동일한 데자뷔를 목격하고 있다. 'AI의 대부'라 불리던 제프리 힌튼 토론토대 교수는 자신이 일평생 헌신해 온 인공지능 연구를 후회한다고 밝히며 구글을 퇴사했다. 얀 르쿤과 함께 딥러닝 혁명을 이끌었던 요슈아 벤지오 역시 초지능의 위험을 경고하며 글로벌 규제를 촉구하는 활동가로 변모했다. 수천 명의 AI 연구자와 테크 리더들이 "AI로 인한 인류 멸종의 위험을 완화하는 것이 전염병이나 핵전쟁과 같은 다른 전 지구적 위험과 함께 글로벌 우선순위가 되어야 한다"는 공동 성명서에 서명했다.

그들의 절규는 80년 전 프랑크 보고서가 당했던 것처럼, "시장 경쟁에서 뒤처질 수 없다"는 기업들의 논리와 "적성국에 주도권을 내줄 수 없다"는 국가 안보의 논리에 밀려 주변화되고 있다. 과학자들의 지체된 참회가 역사를 구원하지 못했다는 뼈아픈 교훈을, 우리는 언제까지 되풀이해야 하는가.


맨해튼 프로젝트의 역사가 비극적 파멸의 서사로만 끝난 것은 아니다. 역설적이게도 냉전의 광풍 속에서도 인류는 공멸을 피하기 위한 최소한의 제도적 장치들을 만들어냈다. 비록 완전하지는 않았으나, 국제원자력기구(IAEA)의 설립, 핵확산방지조약(NPT), 미·소 간의 전략무기제한협정(SALT) 등은 광기를 제어하는 최소한의 방파제 역할을 해왔다.

인공지능이라는 비물질적 절대자를 마주한 우리가 맨해튼의 유산에서 길어 올려야 할 실천적 해법과 거버넌스의 원칙은 다음과 같다.

첫째, 'IAEA 모델'을 차용한 강력한 글로벌 통제 기구의 창설이다핵분열 물질(우라늄-235, 플루토늄)의 이동과 사용을 엄격히 추적·사찰했던 것처럼, 고성능 AI 개발의 핵심 자원인 컴퓨팅 하드웨어(최첨단 반도체 파운드리, 고대역폭 메모리, 대규모 AI 데이터센터)에 대한 국제적 등록 및 감시 체계가 수립되어야 한다. 지능 알고리즘 자체는 소프트웨어로서 복제와 은닉이 용이하지만, 이를 학습시키는 물리적 인프라는 고도의 자본과 에너지를 필요로 하는 구체적 실체이기 때문이다. 미·중을 포함한 주요국이 참여하는 초국가적 감사 기구를 통해, 일정 연산량(FLOPs) 이상의 프런티어 모델 훈련 시 안전 평가를 의무화하고 투명성을 강제해야 한다.

둘째, '기술적 완성'보다 '안전성 검증'이 선행되는 배포 메커니즘의 제도화다오펜하이머와 과학자들은 원자폭탄이 대기권을 연쇄 폭발시켜 지구 전체를 불태울 확률을 계산한 뒤에야 트리니티 실험을 감행했다. 비록 그 위험이 극히 낮다고 판단했으나, '최악의 시나리오'를 사전에 검증하려는 최소한의 절차가 존재했던 것이다. AI 배포에 있어서도 이른바 '레드팀(Red Teaming)' 활동의 독립성과 법적 구속력을 강화해야 한다. 모델이 인간을 기만하거나, 생화학 무기 제조를 돕거나, 자율적인 생존 및 자기 복제 본능을 발현하는지 여부를 철저히 검증하는 '사전 평가(Pre-deployment Auditing)' 없이는 상용 서비스를 불허하는 제도적 문턱을 확립해야 한다.

셋째, 인간의 최종 통제권, 즉 '인간 개입(Human-in-the-loop)'의 절대화다핵전쟁의 위기 속에서도 발사 버튼을 누르는 최종 권한은 기계가 아닌 인간에게 유보되어 있었다. 1983년 소련의 조기경보 위성 시스템이 미국의 핵공격을 알리는 오보를 냈을 때, 컴퓨터의 지시를 무시하고 이성적 판단으로 핵전쟁을 막아낸 스타니슬라프 페트로프 중령의 일화는 시사하는 바가 크다. 군사, 금융, 에너지, 사법 등 문명의 핵심 인프라를 관장하는 AI 시스템에서 인간의 최종 승인권과 긴급정지 스위치(Kill Switch)를 제거하는 행위는 문명적 자살 행위와 다름없다. 기계의 판단을 도구적 조언으로 격하시키고, 궁극적 책임과 결단은 오롯이 인간의 영역에 묶어두어야 한다.

넷째, 패권 논리를 초월하는 과학자 사회의 연대와 공공 연구 생태계의 복원이다과거 퍼그워시 회의(Pugwash Conferences)를 통해 동서 진영의 과학자들이 이념을 넘어 핵무기의 위험성을 공유하고 군축의 토대를 놓았던 것처럼, 전 세계 AI 연구자들의 초국가적 연대가 복원되어야 한다. 아울러 소수 독점 빅테크 기업의 상업적 이익이나 군사적 목적에 종속되지 않은, 순수하게 '인류의 보편적 안전과 웰빙'을 연구하는 공공 AI 연구 컨소시엄에 대한 과감한 투자가 이루어져야 한다.

두 번째 판도라의 상자 앞에서우리는 지금 알라모고르도의 사막 한가운데 서 있다. 밤하늘 저편에서 새벽빛이 차오르고 있으며, 카운트다운은 멈추지 않고 흘러간다.차이점이 있다면, 맨해튼 프로젝트의 원자폭탄은 인간이 만든 물질적 도구로서 스스로 생각하거나 증식하지 못했다는 점이다. 그것은 명령에 따라 터질 뿐이었다. 그러나 우리가 지금 빚어내고 있는 인공지능은 스스로 학습하고, 추론하며, 인간의 지적 능력마저 초월할 잠재력을 지닌 '주체적 지능'이다. 잘못 정렬된 초지능의 탄생은, 한 번 터지고 끝나는 폭탄이 아니라 인간을 영원히 체스의 졸(Pawn)로 전락시키는 지적 지배자의 출현을 의미할 수 있다.

1955년, 알베르트 아인슈타인과 버트런드 러셀은 냉전의 정점에서 인류를 향해 마지막 절규를 던졌다. "우리는 인류의 일원으로서 인류에게 호소한다. 당신들의 인간성을 기억하라, 그리고 다른 모든 것을 잊어라. 그렇게 할 수 있다면 새로운 낙원으로 향하는 길이 열릴 것이요, 그러지 못한다면 보편적 죽음의 위험이 눈앞에 놓일 것이다."AI는 인류 문명의 질병을 치료하고, 기후 위기를 해결하며, 빈곤을 퇴치할 수 있는 눈부신 가능성을 품고 있다. 그것은 진정 인류를 구원할 새로운 불씨가 될 수 있다. 그러나 그 불씨를 다루는 인간의 지혜가 기술의 진보 속도를 따라잡지 못한다면, 그 불은 프로메테우스가 선사한 축복이 아니라 세상을 집어삼키는 업화(業火)가 될 것이다.

맨해튼 프로젝트가 우리에게 남긴 가장 준엄한 교훈은 명확하다."할 수 있다고 해서, 그것을 무제한으로 행해서는 안 된다."지식의 확장이 곧 지혜의 성장을 의미하지 않으며, 기술적 가능성이 도덕적 정당성을 보증하지 않는다.우리는 기계에 지능을 불어넣기 전에, 먼저 인간 스스로의 책임과 윤리를 재정의해야 한다. 기술의 질주를 멈추어 세우고 "우리는 어디로 가고 있는가"를 묻는 이 불편한 성찰이야말로, 두 번째 판도라의 상자를 열어젖힌 인류가 파멸을 피할 수 있는 유일한 탈출구다. 로스앨러모스의 과학자들이 사막에서 흘렸던 뒤늦은 눈물을, 미래의 우리가 황폐해진 문명의 폐허 위에서 다시 흘려서는 안 되기 때문이다.


김대호 글로벌이코노믹 연구소장 tiger8280@g-enews.com