아마존 경고가 촉발한 앤스로픽 AI 차단 파문

도널드 트럼프 미국 행정부가 앤스로픽의 최상위 인공지능(AI) 모델에 대한 외국인 접근을 전면 차단한 배경에 아마존 최고경영자(CEO)의 문제 제기가 있었던 것으로 드러났다.

아마존 연구진이 앤스로픽의 페이블5 모델에서 사이버 공격에 악용될 수 있는 정보를 끌어낼 수 있다는 점을 확인했고 앤디 재시 아마존 CEO가 이를 미국 고위 당국자들에게 전달하면서 트럼프 행정부의 강경 조치로 이어졌다는 얘기다.

월스트리트저널(WSJ)은 재시 CEO가 스콧 베선트 미국 재무부 장관 등 미국 정부 관계자들과의 대화에서 앤스로픽 모델의 보안 취약성을 제기했고 이 정보가 앤트로픽의 최첨단 AI 모델에 대한 외국인 접근 차단 조치를 촉발했다고 13일(현지시각) 보도했다.
블룸버그통신도 미국 정부가 국가안보 우려를 이유로 앤트로픽에 페이블5와 미토스5 모델의 외국인 접근 중단을 명령했다고 전했다.

앤스로픽은 정부 명령을 준수하기 위해 페이블5와 미토스5 접근을 모든 고객에게 중단했다. 미국 정부의 명령은 해외 이용자뿐 아니라 미국 안에 있는 외국 국적자에게도 적용된다. 앤스로픽은 외국인 연구자 상당수가 자사에 근무하고 있어 이번 조치가 최신 모델 연구와 운영에도 영향을 줄 수 있다고 밝혔다.

◇재시 CEO 문제 제기가 강경 조치로

WSJ에 따르면 아마존 연구진은 특정한 일련의 프롬프트를 이용해 앤스로픽의 페이블5 모델로부터 사이버 공격을 돕는 데 활용될 수 있는 정보를 얻어냈다. 이 정보는 원래 모델의 안전장치상 제공돼서는 안 되는 내용이었다.
재시 CEO는 이 같은 내용을 베선트 재무부 장관 등 미국 당국자들에게 전달했다. 이후 백악관 관계자들은 대응 방안을 논의하는 회의를 열었고 보안 관련 연구진도 아마존의 주장을 검증하기 시작했다.

미 당국자들은 앤스로픽에 취약점을 수정하거나 해당 모델을 내릴 것을 요구했다. 이후 미국 정부는 위험을 가장 직접적으로 줄이는 방법이 외국 정부, 기업, 개인의 모델 접근을 막는 것이라고 판단한 것으로 알려졌다. 고위 백악관 관계자는 “도널드 트럼프 대통령이 혁신 위축 우려에도 불구하고 해당 조치에 서명했다”고 밝혔다.

이번 논의에는 션 케언크로스 국가사이버국장과 하워드 러트닉 상무부 장관도 관여한 것으로 전해졌다. 상무부는 핵심 기술 수출통제를 담당한다.

◇앤스로픽 “기초 취약점, 전면 차단은 과도”
앤스로픽은 정부의 판단에 강하게 반발했다. 이 회사는 특정 취약점이 확인됐다는 이유만으로 수억명이 이용하는 상용 모델을 회수하는 것은 과도하다는 입장이다.

앤스로픽은 아마존이 지적한 유형의 취약점이 비교적 기초적인 수준이며 공개된 다른 AI 모델도 비슷한 정보를 찾아낼 수 있다고 주장했다. 또 이는 완전한 의미의 ‘탈옥’, 즉 안전장치 전면 우회를 의미하지 않는다고 반박했다.

일부 보안 전문가들도 아마존 연구 결과가 위험한 공격 능력으로 곧장 이어졌다고 보기는 어렵다고 지적했다. 사이버보안 기업 그레이노이즈 인텔리전스의 앤드루 모리스 창업자는 “아마존 보고서에 담긴 내용은 소프트웨어 보안 버그를 찾아낸 수준”이라고 말했다. 그는 이런 정보는 다른 도구로도 이미 확인할 수 있으며 실제 네트워크 침입에 쓰이는 공격 코드 생성 능력까지 접근했다는 증거는 없다며 이같이 주장했다.

다만 페이블 계열 모델은 취약점 정보를 실제 공격 코드로 전환하는 능력이 강한 것으로 알려져 있다. 이 때문에 미 정부는 잠재적 위험을 국가안보 문제로 판단한 것으로 보인다는 관측이다.

◇아마존, 투자자이자 경쟁적 이해관계자

아마존의 역할도 논란을 키우고 있다. 아마존은 앤스로픽의 주요 투자자이자 데이터센터용 칩과 클라우드 인프라를 제공하는 협력사다. 동시에 아마존은 자사 보안과 클라우드 고객 보호를 위해 앤트로픽의 최상위 모델을 활용하는 대형 고객이기도 하다.

아마존 대변인은 “대규모 민간·공공 고객을 서비스하는 주요 클라우드 제공업체로서 정부가 잠재적 보안 위험에 관해 의견을 구하는 것은 드문 일이 아니다”라면서도 구체적인 논의 내용은 공개하지 않았다.

그러나 아마존의 문제 제기가 정부의 광범위한 접근 금지 조치로 이어지면서 거대 기술기업과 정부가 최첨단 AI 모델의 위험을 어떻게 다룰지에 대한 새로운 선례가 만들어졌다는 평가가 나온다.

◇트럼프 행정부, AI 통제 강화 신호

이번 조치는 트럼프 행정부가 AI 산업에 대한 통제 수위를 빠르게 높이고 있음을 보여준다는 지적이다. 최근 트럼프 행정부는 안보 당국이 AI 모델을 더 면밀히 들여다볼 수 있도록 하는 행정명령을 내렸고 AI 기업에 대한 정부 지분 참여 가능성도 논의해 왔다.

백악관 고위 관계자는 이번 개입에 대해 “모델 안전에 관한 조치일 뿐이며 혁신을 중시하는 행정부 기조와 충돌하지 않는다”고 밝혔다. 트럼프의 전 AI 차르이자 현재 대통령 과학기술자문위원회 공동의장인 데이비드 색스도 X에 올린 글에서 트럼프 행정부가 “마지못해” 제한을 내렸다고 밝혔다.

색스는 “행정부의 희망은 앤트로픽이 안전 문제를 고치고, 수출통제가 해제돼 페이블이 일반 공개로 돌아가는 것”이라고 주장했다. 그는 앤트로픽이 안전을 최우선 가치로 내세워 왔으면서도 정부의 안전 요구에는 충분히 협조하지 않는 것처럼 보인다고 비판했다.

◇앤스로픽과 트럼프 행정부 갈등 재부상

이번 사태는 앤스로픽과 트럼프 행정부 사이의 오래된 갈등도 다시 부각시켰다. 앤스로픽은 지난 2021년 다리오 아모데이 CEO와 오픈AI 출신 인사들이 창업한 회사다. 이들은 오픈AI가 AI 안전을 충분히 중시하지 않는다고 보고 독립했다.

앤스로픽은 그동안 책임 있는 AI 개발을 강조해 왔지만 트럼프 행정부 내부에서는 이 회사에 대한 불신이 컸다. WSJ는 “트럼프 행정부가 앤트로픽의 진보 성향 기부자들과의 관계, AI 위험 경고, 전직 바이든 행정부 인사 채용 등을 못마땅하게 여겨 왔다”고 전했다. 아모데이 CEO도 트럼프 대통령과 행정부를 비판한 적이 있다.

앤스로픽은 군사·감시 목적의 자사 AI 도구 사용을 둘러싸고 미 국방부와도 충돌했다. 그 결과 국방부는 앤트로픽을 안보 위험으로 지정했고 앤스로픽은 이에 대해 두 건의 소송으로 다투고 있다.

전 상무부 관리인 케이트 코런 전략국제문제연구소(CSIS) 연구원은 “안보 우려는 이해하지만 백악관의 앤트로픽에 대한 반감이 이번 결정에 영향을 미쳤을 가능성이 있어 보인다”고 지적했다. 백악관 고위 관계자는 이번 조치가 모델 안전 문제이며 국방부가 깊이 관여한 것은 아니라고 밝혔다.

◇오픈AI 등 경쟁사에는 기회 될 수도

최상위 모델 차단은 앤스로픽의 기업공개(IPO) 준비에도 부담이 될 수 있다는 관측이다. 앤스로픽은 이르면 올해 가을 IPO를 추진할 수 있는 기업으로 거론돼 왔다. 주요 고객들이 페이블과 미토스 대신 다른 모델로 이동하면 성장성과 수익성 입증에 차질이 생길 수 있다.

반대로 오픈AI 같은 경쟁사에는 기회가 될 수 있다는 관측도 나온다. WSJ는 “오픈AI도 강력한 사이버 모델을 보유하고 있으며 이를 고객에게 점진적으로 제공하는 방안을 트럼프 행정부와 논의하고 있다”고 전했다.

블룸버그는 “이번 조치가 오픈AI, 알파벳 구글, 메타플랫폼스 등 주요 AI 모델 개발사에도 선례가 될 수 있다”고 분석했다. 미국 정부가 AI 반도체를 넘어 AI 모델 소프트웨어 자체를 수출통제 대상으로 삼을 수 있음을 보여줬기 때문이다.

젠슨 황 엔비디아 CEO와 샘 올트먼 오픈AI CEO는 그동안 미국산 AI 시스템의 세계적 보급을 촉진해야 한다고 주장해 왔다. 미국 기술을 세계 표준으로 확산시키는 것이 중국 등 경쟁국과의 기술 패권 경쟁에서 더 유리하다는 논리다. 그러나 이번 조치는 미국 정부가 최첨단 AI를 전략 자산으로 보고 직접 통제할 수 있다는 반대 방향의 신호를 줬다.

◇AI 안전 논쟁, 산업 통제 논쟁으로 확대

엔비디아가 지원하는 AI 스타트업 코히어의 공동창업자 에이든 고메즈는 “이런 영향력이 행사되지 않을 것이라고 기대했던 사람들에게는 엄청난 경종”이라고 말했다. 그는 “이는 동맹적이지도 않고 지난 80년 동안 형성된 기술 동맹을 위해서도 옳은 방향이 아니다”라고 지적했다.

애덤 티어러 R스트리트연구소 선임연구원도 이번 사태가 “AI의 정치화와 미국 내 첨단 연산 통제의 중앙집중화가 크게 확대된 사건”이라고 평가했다.

유럽연합(EU) 집행위원회는 앤스로픽의 입장을 검토하고 있으며 강력한 AI 모델의 잠재 위험과 사이버보안 우려에 대해 동맹국들과 계속 논의하고 있다고 밝혔다. EU는 이번 사태가 유럽의 기술주권 필요성을 다시 보여준다고 평가했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com