‘AI 통제상실’ 경고 확산…트럼프·중국은 ‘감속 거부’

인공지능(AI)을 직접 개발하는 세계 최대 IT기업 수장들이 잇따라 ‘통제 상실’ 위험을 경고하며 개발속도 조절을 요구하고 나섰지만 미국과 중국 정부는 오히려 글로벌 AI 패권 경쟁을 이유로 감속론에 거리를 두고 있다.
샘 올트먼 오픈AI 최고경영자(CEO)는 AI 발전이 잘못될 경우 인간이 미래에 대한 통제권을 AI에 넘겨줄 수 있고 막강한 AI가 한 개인이나 기업, 국가에 집중될 경우 디스토피아적 결과가 나타날 수 있다고 경고했다.

반면 도널드 트럼프 미국 대통령은 중국보다 앞선 AI 경쟁력을 지켜야 한다며 감속 요구를 사실상 거부했다.

중국 정부 역시 미국 AI 기업 수장들의 속도조절 요구를 ‘공포 조장’이라고 비판했다.
AI의 위험성을 둘러싼 논쟁이 기술업계 내부의 안전 문제를 넘어 미·중 전략경쟁과 글로벌 AI 규칙을 둘러싼 갈등으로 확대되는 모습이다.

다른 한편으로는 패권 대결 구도 속에서 사사건건 맞서왔던 트럼프 행정부와 중국 정부가 이 문제에 대해서는 비슷한 목소리를 내는 이례적인 상황이 벌어지고 있는 셈이다.

14일(이하 현지시각) 야후파이낸스에 따르면 올트먼 CEO는 이날 소셜미디어 X를 통해 AI 발전이 잘못될 수 있는 두 가지 경로를 제시하며 통제와 권력집중 위험을 경고했다.


올트먼이 첫 번째로 꼽은 위험은 인간이 AI에 미래에 대한 통제권을 빼앗기는 상황이다.
그는 “이는 받아들일 수 없는 결과”라며 “AI는 항상 인간을 위해 작동해야 하고 모델의 성능이 향상되는 속도보다 정렬과 안전기술이 앞서갈 수 있도록 해야 한다”고 강조했다.

두 번째 위험은 지나친 권력 집중이다.

강력한 AI가 특정 개인이나 기업의 세계관을 모두에게 강요하는 데 사용될 경우 극단적인 디스토피아로 이어질 수 있다는 것이다.

하나의 국가나 하나의 AI 연구소가 지나치게 강력한 권한을 갖는 경우도 같은 위험에 포함했다.
올트먼의 이번 발언은 다리오 아모데이 앤스로픽 CEO가 지난 12일 AI 모델 성능 향상 속도를 늦춰야 한다고 주장한 직후 나왔다.

아모데이는 최근 몇 달간 AI 위험을 제대로 다루려면 위험예방 기술에 투자하는 것만으로 부족하며 안전대책이 따라잡을 시간을 확보할 수 있도록 모델 능력 향상 자체의 속도를 조절해야 한다는 판단에 이르렀다고 밝혔다.

올트먼은 아모데이의 글이 나온 직후 그의 주장에 동의한다고 공개적으로 밝혔다.

AI 업계 내부의 우려도 이어지고 있다.

최근 앤스로픽을 떠난 연구원 제이컵 콕슨은 “앤스로픽과 오픈AI 모두 강력한 AI 시스템을 책임 있게 개발하고 있지 않다”고 비판했다.

앤스로픽 정렬과학 책임자인 에번 허빙거도 이에 동조하며 첨단 AI가 모든 인간을 죽일 가능성을 10% 이상으로 보고 있다고 밝혔다.


그러나 글로벌 AI 패권을 놓고 경쟁하는 미국 정부의 판단은 사뭇 다르다.

트럼프 대통령은 13일 아일랜드 방문 중 AI 기업 경영자들의 안전 우려와 속도조절 요구에 대해 미국이 중국보다 앞서 있다는 사실을 강조했다.

그는 미국이 세계에서 가장 앞선 AI 국가라며 현재의 우위를 유지하고 싶다고 말했다. 특히 “누가 AI에서 이기느냐가 승리한다”는 논리를 내세워 개발속도 둔화에 사실상 반대했다.

트럼프 대통령에게 AI 안전문제보다 우선하는 것은 중국과의 기술패권 경쟁인 셈이다.

아모데이 역시 이런 딜레마를 인정하고 있다.

그는 AI를 개발하지 않으면 인류가 기술의 혜택을 누리지 못하거나 권위주의 국가에 기술 주도권을 넘겨줄 수 있지만 너무 빠르게 개발하는 것 역시 무모하다고 지적했다. 미국 기업이 속도를 지나치게 늦출 경우 중국 공산당과 연계된 프로젝트가 추월해 국가안보 위험이 발생할 수 있다고도 경고했다.

미국 AI 기업들이 위험을 인식하면서도 일방적으로 개발을 멈추기 어려운 이유라는 지적이 나오는 이유다.


트럼프뿐 아니라 중국도 AI 개발속도를 늦추라는 미국 기술기업 수장들의 요구에 부정적인 반응을 보였다.

궈자쿤 중국 외교부 대변인은 아모데이, 올트먼, 머스크 등 미국 AI 업계 인사들의 감속 요구에 관한 질문에 “공포 조장과 대립, 경쟁은 글로벌 AI 거버넌스 과정을 방해할 뿐”이라고 14일 말했다.

다만 중국 정부 역시 AI의 위험관리 필요성 자체를 부정하는 것은 아니다.

천이신 중국 국가안전부장은 AI 안전 위험을 예방하고 통제하기 위한 체계를 더욱 빠르게 구축해야 한다고 13일 주장했다.

그는 AI 분야를 글로벌 기술경쟁의 ‘주요 전장’이자 강대국 전략경쟁의 새로운 무대로 규정하면서 동시에 기술의 건전하고 질서 있는 발전이 필요하다고 강조했다.

즉 중국도 안전관리 필요성은 인정하지만 경쟁력을 떨어뜨릴 정도로 개발속도를 제한하는 방식에는 반대하는 입장이다.

시진핑 중국 국가주석도 지난주말 인도 뉴델리에서 열린 브릭스 정상회의에서 중국이 개발도상국의 AI 협력과 발전을 지원하는 데 앞장서겠다고 밝혔다.

중국산 AI 모델의 성능이 개선되면서 서방 기업에서도 채택이 늘고 있는 상황이다.


AI 개발속도를 둘러싼 논쟁은 금융시장에도 영향을 미치기 시작했다.

아모데이와 올트먼의 잇단 경고 이후 AI 투자 축소 가능성에 대한 우려가 커지면서 관련주가 약세를 보였다.

야후파이낸스에 따르면 샌디스크는 14일 미국 정규장 개장 전 거래에서 5%, 엔비디아는 3% 하락했다.

CNBC는 오픈AI의 주요 투자자인 소프트뱅크가 일본 증시에서 10% 급락했다고 전했다.

다만 월가에서는 AI 개발속도 논쟁이 이미 진행 중인 대규모 데이터센터와 반도체 투자를 곧바로 멈추게 할 가능성은 낮다는 의견도 나온다.

댄 아이브스 웨드부시증권 글로벌 기술리서치 책임자는 “이번 논쟁이 단기적으로 AI 관련주를 압박할 수 있지만 앞으로 수년간 예정된 5조달러 규모 AI 투자 흐름을 근본적으로 바꾸지는 못할 것”이라고 전망했다.

AI를 개발하는 기업 수장들과 연구자들은 모델의 능력이 인간의 통제기술보다 빠르게 향상될 수 있다고 경고하고 있다.

그러나 미국과 중국이라는 두 AI 강국은 모두 상대에게 주도권을 넘기는 상황을 더 큰 전략적 위험으로 보고 있다.

결국 AI 논쟁의 핵심은 이제 기술을 얼마나 빠르게 발전시킬 수 있는지를 넘어, 위험을 인식하면서도 어느 국가와 기업이 먼저 브레이크를 밟을 수 있느냐는 문제로 옮겨가고 있다는 분석이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com