“내 손으로 인류를 지울 순 없다”... 앤스로픽의 항명과 펜타곤의 핵 전쟁 시나리오

인류의 운명을 좌우할 인공지능(AI) 사령관의 탄생을 두고 실리콘밸리와 펜타곤이 정면 충돌하고 있다. 자율적으로 목표물을 식별해 사살하는 인공지능 무기 체계와 전 국민을 실시간으로 추적하는 감시망을 구축하려는 미 국방부의 야욕에 대항하여 인공지능 스타트업 앤스로픽이 거부권을 행사하며 인공지능 주도권을 둘러싼 거대한 전쟁이 시작되었다.
미국의 일간지 워싱턴포스트와 경제 전문 매체들인 블룸버그, 비즈니스인사이더가 2월 27일(현지시각) 보도한 바에 따르면 미 국방부는 핵 요격과 같은 국가 안보의 핵심 시나리오에 앤스로픽의 인공지능 모델인 클로드를 제한 없이 활용하기를 원하고 있다. 이에 대해 앤스로픽은 인간의 통제가 배제된 자동 살상 무기나 대규모 민간인 감시에는 자사 기술을 절대 제공할 수 없다는 입장을 고수하며 배수진을 쳤다.


미 국방부는 인공지능 기술이 국가 안보를 지탱하는 핵심 자산이라는 점을 강조하며 앤스로픽에 대한 압박 수위를 높이고 있다. 국방부 관계자들은 모든 합법적인 목적에 인공지능을 활용할 수 있어야 한다고 주장하며 필요한 경우 방위생산법을 동원해 인공지능 모델을 강제로 징발할 수 있다는 경고까지 내놓았다. 특히 앤스로픽을 국방 공급망의 리스크 요인으로 지정하여 향후 모든 정부 사업에서 배제할 수 있다는 강력한 협박성 메시지는 실리콘밸리에 커다란 충격을 주고 있다.

이번 충돌은 단순히 한 기업과 정부의 갈등을 넘어 실리콘밸리 전체의 전면전으로 번지는 양상이다. 아마존, 구글, 마이크로소프트, 오픈AI의 직원들은 소속 회사의 이익을 뒤로하고 앤스로픽의 결단을 공개적으로 지지하고 나섰다. 이들은 과거 구글의 드론 분석 프로젝트였던 메이븐 프로젝트 당시의 거센 항의 정신을 계승하여 인공지능이 인간의 개입 없이 생명을 빼앗는 도구로 전락하는 것을 막아야 한다고 목소리를 높이고 있다.


국방부가 구상하는 가상 시나리오 중에는 적국의 핵 공격을 실시간으로 감지하고 요격하는 과정에서 인공지능에게 최종 결정권을 부여하는 내용이 포함된 것으로 알려졌다. 앤스로픽은 인공지능이 복잡한 전장 상황을 오판할 경우 돌이킬 수 없는 재앙을 초래할 수 있다고 우려한다. 전직 군 고위 장성들조차 현재의 거대언어모델 기술이 국가 안보의 핵심 결정을 내리기에는 아직 불안정하며 지나친 의존은 참사로 이어질 수 있다는 경고를 보태고 있다.


한편 앤스로픽은 국가 안보를 명분으로 내세우는 한편 경쟁사인 중국 기업들이나 타사 모델로부터 데이터를 무단으로 추출하고 있다는 비판에도 직면해 있다. 인공지능 모델이 해리포터와 같은 저작권물을 거의 완벽하게 재현해낼 수 있다는 연구 결과가 발표되면서 인공지능 기업들이 타인의 지적 재산을 약탈하여 성장해왔다는 원죄론이 다시 고개를 들고 있다. 이는 인공지능 윤리를 강조하며 국방부와 대립하는 앤스로픽의 행보가 진정성 있는 결단인지 아니면 비즈니스 협상을 위한 명분 쌓기인지에 대한 논쟁으로 번지고 있다.

미 국방부가 앤스로픽을 압박하는 표면적인 이유 중 하나는 중국의 급격한 인공지능 기술 추격이다. 중국의 딥시크나 문샷AI 같은 기업들이 빠른 속도로 성능을 끌어올리자 미 정부는 자국 기업들이 군사적 활용을 거부하는 행위가 국가적 위기를 초래할 수 있다고 본다. 국방부는 미국 기업의 기술이 중국으로 유출되거나 중국 모델에 밀리는 상황을 방어하기 위해 실리콘밸리의 기술을 강제적으로라도 군사화하겠다는 의지를 꺾지 않고 있다.


앤스로픽과 펜타곤의 대립은 앞으로 인공지능이 인류에게 축복이 될지 아니면 보이지 않는 감옥이 될지를 결정하는 중대한 분수령이 될 것이다. 기업의 윤리적 가이드라인이 국가의 방위 권력보다 우선할 수 있는지에 대한 이 철학적 싸움은 전 세계 인공지능 산업의 향방을 결정할 것이다. 실리콘밸리의 노동자들과 시민 사회 단체들은 인간의 통제를 벗어난 킬러 로봇의 등장을 막기 위해 앤스로픽의 등 뒤에서 거대한 방어벽을 형성하고 있다.

이교관 글로벌이코노믹 기자 yijion@g-enews.com