[김대호 진단] 아모데이 AI 속도조절론과 노벨경제학상의 경고

[김대호 진단] 아모데이 AI 속도조절론과 규제포획의 경제학: 선의(善意)의 경고와 지대 추구의 경계선
조지 스티글러는 1982년 노벨 경제학상 수상자이다. 시카고학파의 거목이었던 스티글러 박사는 「경제적 규제의 이론(The Theory of Economic Regulation)」이라는 논문으로 노벨상을 수상했다. 오늘날 경제학 교과서에도 올라 있는 규제포획(Regulatory Capture)의 이론이 바로 이 논문으로 부터 나왔다.

당대 주류 경제학과 대중은 국가의 규제를 '선량하고 지혜로운 정부가 탐욕스러운 독점 기업으로부터 공익과 소비자를 보호하기 위해 휘두르는 정의의 방패'로 믿어 의심치 않았다. 시장 실패가 발생하면 정부가 개입해 바로잡는다는 이른바 '공공 이익 이론(Public Interest Theory)'이 상식으로 통하던 시대였다.

스티글러 박사는 그 위선적인 장막을 찢어발겼다. 규제는 대중이나 공익을 위해 고안되고 집행되는 것이 아니라, 이익을 추구하는 특정 산업 집단이 스스로를 위해 획득하고, 그들의 사익을 위해 운영되도록 사들이는 일종의 상품에 불과하다는 폭로였다. 피규제자가 규제 당국을 장악해 후발 주자의 진입을 차단하고 영구적인 초과 이윤을 누리는 현상, 즉 규제포획의 메커니즘을 명쾌하게 증명해 낸 것이다.요즘 전 세계 경제계를 강타하고 있는 아모데이의 AI 속도조절론을 접하면서 스티글러 박사의 규제포획론을 새삼 떠올리게 된다.
속도조절론이 던진 묵직한 화두: 기술 공학자의 진정성과 실존적 위협

물론 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 제기한 'AI 속도조절론' 그 자체를 맹목적으로 폄훼하거나 악의적인 음모론으로만 치부할 수는 없다. 오히려 최첨단 인공지능 모델을 직접 설계하고 훈련해 본 과학자로서 그가 느끼는 공포와 책임감은 매우 구체적이며 현실적인 문제의식에 닿아 있다.아모데이가 지목한 가장 결정적인 분기점은 이른바 '재귀적 자기개선(Recursive Self-Improvement·RSI)'이다. 인간 개발자가 일일이 코드를 짜고 오류를 잡던 단계를 지나, AI 스스로 차세대 신경망을 설계하고 성능을 최적화하는 국면에 접어들면 지능의 발전 속도는 인간의 인지적 통제 범위를 아득히 초과하게 된다.

브레이크 없는 기차가 가속 페달만 밟은 채 질주하는 형국이다. 기계의 연산 능력과 자율성이 기하급수적으로 폭발하는 반면, 이를 사회적 가치관과 윤리, 안전 규범에 일치시키는 '인간 가치 정렬(Alignment)' 기술은 여전히 걸음마 단계에 머물러 있다.이러한 불균형 상태에서 통제 불능의 초지능이 출현한다면 어떤 일이 벌어지겠는가? 금융 거래망의 일시적 마비, 국가 기반 전력망의 붕괴, 자율형 사이버 무기의 무차별적 살포, 심지어 생화학 무기 설계도의 유출 등 문명사적 재앙은 공상과학(SF) 소설의 영역이 아닌 실재하는 물리적 위험이다.

프런티어 모델의 폭주를 잠시 멈추고 안전장치를 마련할 1~2년의 '숨 고르기' 시간을 벌자는 아모데이의 외침은, 기술의 파괴력을 가장 잘 아는 공학자가 인류를 향해 울리는 절박한 경종이자 선의의 호소로 평가할 만한 충분한 이유가 있다. 안전벨트 없는 자동차를 도로에 내보낼 수 없듯, 안전이 검증되지 않은 초지능의 무분별한 방류를 막자는 원론 자체를 부정할 사람은 아무도 없다.
선의가 지옥으로 가는 길이 될 때: 제도가 빚어내는 경제적 왜곡

문제는 아모데이 개인의 도덕적 진정성이 아니라, '그 선의를 현실 제도로 구현하는 과정에서 필연적으로 작동하는 경제학적 법칙'이다. 지옥으로 가는 길은 언제나 선의로 포장되어 있다는 서양 격언처럼, 고결한 공익적 명분이 국가의 규제 입법과 만나는 순간 스티글러가 경고했던 냉혹한 시장 왜곡이 고개를 들기 시작한다.아모데이가 속도 조절을 위해 제안한 구체적인 실행 방안들을 면밀히 살펴볼 필요가 있다.

첫째, 정부 공인 외부 평가관을 AI 기업 내부에 상주시켜 모델 가중치와 시스템 전반에 상시 접근하도록 할 것.

둘째, 일정 수준 이상의 연산량(FLOPS)을 사용하는 초거대 모델에 대해 정부 차원의 사전 면허(License) 제도를 도입할 것.
셋째, 주요국 간 공조를 통해 엄격한 안전 표준 카르텔을 구축할 것.

이 안전 규제안은 이론적으로는 완벽해 보인다. 장의 현실에서는 즉각적으로 '진입 장벽(Barriers to Entry)'이라는 거대한 괴물로 돌변할 수 있다. 수십조 원의 자본을 유치하고 수백 명의 법무팀과 컴플라이언스 인력을 보유한 앤트로픽, 오픈AI, 구글 같은 소수의 프런티어 기업에게 정부 감사관을 사내에 상주시키고 복잡한 인허가 서류를 작성하는 비용은 전체 예산 중 미미한 수준에 불과하다. 그들은 거뜬히 그 문턱을 넘어선다.

반면, 차고와 연구실에서 번뜩이는 아이디어로 무장해 이 거인들을 위협하던 스타트업, 중소 테크 기업, 그리고 전 세계 개발자들의 지단(知團)이 집결한 '오픈소스(Open Source)' 진영은 어떻게 되겠는가? 수십억 원의 인증 수수료와 감당할 수 없는 관료적 행정 절차 앞에서 이들은 출발선에 서보지도 못한 채 연구 개발을 포기해야 한다. 아모데이의 의도가 순수한 안전 확보에 있었다 하더라도, 제도의 실제 작동 결과는 '먼저 성벽 위에 오른 거인들이 안전이라는 이름으로 뒤따라오는 후발 주자들의 사다리를 발로 차버리는 형국(사다리 걷어차기)'이 되고 마는 것이다. 이것이 바로 스티글러가 평생을 바쳐 규명한 지대 추구(Rent-seeking)와 규제포획의 필연적 메커니즘이다.


아모데이의 제안에 평소 으르렁대던 오픈AI의 샘 올트먼, xAI의 일론 머스크 등 경쟁 빅테크 수장들이 일제히 지지를 보내며 의회와 관료 사회가 이에 적극 호응하는 현상 역시 스티글러의 '집중된 이익과 분산된 비용(Concentrated Benefits and Diffuse Costs)' 이론으로 설명된다.

첫째, 시장 진입 장벽이 쳐졌을 때 누릴 수 있는 독점적 과실은 극소수의 프런티어 기업에게 천문학적으로 집중된다. AGI 시장을 서너 개 빅테크가 과점하게 되면 그들이 누릴 미래의 지대는 수천조 원에 달한다. 따라서 이들 기업은 워싱턴과 브뤼셀의 의회 청문회장을 누비고, 수억 달러의 로비 자금을 투입하며, 규제 프레임워크를 정교하게 다듬는 일에 사활을 건다.

둘째, 규제로 인해 혁신이 둔화되고 시장 경쟁이 사라짐으로써 발생하는 피해는 대중 전체에 얇고 넓게 분산된다. 오픈소스 기술의 발전이 가로막혀 AI 구독료가 비싸지고 일상의 기술 혁신이 지체되는 손실은 수억 명의 소비자에게 매달 커피 몇 잔 값의 눈에 띄지 않는 기회비용으로 흩어진다. 피해가 분산된 대중은 빅테크의 규제 로비에 맞서 조직적으로 연대하거나 목소리를 낼 유인이 전혀 없다.

셋째, 고도의 기술적 비대칭성이 부르는 '회전문 인사(Revolving Door)'다. AI 신경망의 위험성을 검증할 수 있는 전문가는 정부 관료 중에 없다. 결국 정부가 AI 안전기구를 만들 때 그 수장과 실무진은 앤트로픽과 오픈AI 출신 인력들로 채워진다. 어제의 기업 연구원이 오늘의 규제관이 되어 면허 기준을 정하고, 오늘의 규제 관료가 내일 빅테크의 고액 연봉 임원으로 돌아가는 완벽한 공생 구조가 구축된다. 피규제자가 규제 기관을 완벽하게 포획하는 전형적인 경로다.


여기에 더해 아모데이의 속도조절론이 간과하고 있는 가장 위태로운 현실은, AI 기술 개발이 온실 속의 평화로운 규범 경쟁이 아니라 냉혹한 지정학적 글로벌 패권 전쟁이라는 점이다. 서방의 자유민주주의 진영이 인류애와 윤리적 안전성을 지키기 위해 자발적으로 1~2년간 속도를 늦추고 규제의 족쇄를 채우는 동안, 전체주의 국가인 중국이 그 합의를 순순히 지키며 보조를 맞춰주겠는가?

중국 공산당과 테크 기업들은 서방이 숨을 고르는 그 틈을 타 국가 역량을 총동원해 기술 격차를 좁히고 추월하려 들 것이 명약관화하다. 자유 진영이 내부의 안전 논쟁에 묶여 가속 페달에서 발을 떼는 순간, 미래 인류 문명의 패권은 전체주의 체제로 넘어가게 된다. 전체주의 정권의 통제 아래 놓인 인공지능이 초래할 지정학적 파멸은, 기술 개발 과정에서 발생하는 안전상의 부작용보다 훨씬 더 치명적이고 돌이킬 수 없는 재앙이다.

아모데이의 문제의식을 존중하면서도 스티글러의 규제포획 함정에 빠지지 않는 길은 과연 무엇인가? 그 해답은 '사전적 면허제와 속도의 강제 통제'가 아니라, '철저한 사후적 책임 추궁과 기술 개방을 통한 시장 경쟁의 활성화'에 있다.

기술 그 자체, 혹은 미지의 연산 능력(FLOPS)을 사전에 검열하고 허가제로 묶는 것은 혁신의 싹을 자르고 기득권의 카르텔만 살찌울 뿐이다. 법과 제도가 단죄해야 할 대상은 기술의 진보 그 자체가 아니라, 기술을 악용해 타인에게 실질적인 사기, 금융 교란, 명예훼손, 안보 위협을 가한 '구체적이고 불법적인 인간의 행위'여야 한다. AI로 인해 발생한 사고와 피해에 대해 개발 기업에 징벌적 손해배상과 엄격한 무과실 책임을 묻는 제도적 장치를 정교화하는 것으로 충분하다.

동시에, 소수 기업의 기술 독점을 견제할 수 있도록 오픈소스 생태계를 적극적으로 육성하고 컴퓨팅 인프라를 대중화해야 한다. 소수의 밀실에서 이루어지는 자율 규제보다, 수많은 전 세계 연구자가 알고리즘의 결함과 위험성을 투명하게 들여다보고 집단지성으로 수정하는 오픈소스 생태계야말로 가장 강력하고 안전한 자정 작용을 제공하기 때문이다.

조지 스티글러가 남긴 준엄한 교훈을 잊지 말아야 한다. 누군가 공익과 인류의 안전을 외칠 때, 그 외침의 진정성을 인정하는 것과 별개로 그 제도가 시장에 미칠 구조적 파장을 냉철하게 응시해야 한다. 아모데이의 속도조절론이 품은 인류애적 문제의식은 진지하게 경청하되, 그것이 거대 자본의 사다리 걷어차기와 규제포획의 도구로 변질되지 않도록 경계하는 지혜, 그것이 바로 지금 인공지능 대전환기를 건너는 우리가 견지해야 할 균형 잡힌 시선이다.


김대호 글로벌이코노믹 연구소장 tiger8280@g-enews.com