"방아쇠는 AI가 당긴다"…펜타곤의 '살인 로봇' 야심, 실리콘밸리 윤리에 막히나

인공지능(AI)이 스스로 적을 식별하고 사살을 결정하는 영화 '터미네이터'의 악몽이 현실의 전장에서 쟁점으로 떠올랐다. 'AI 우선주의(AI First)'를 천명하며 군사력의 무인화·자동화를 밀어붙이는 미국 국방부(펜타곤)와, 이에 대한 윤리적 통제권을 주장하는 실리콘밸리 AI 기업 간의 갈등이 수면 위로 폭발했기 때문이다.
인도네시아의 신도뉴스(SINDOnews)와 로이터통신 등 외신은 2일(현지 시각) 미 국방부와 AI 개발사 '앤트로픽(Anthropic)'이 2억 달러(약 2800억 원) 규모의 계약을 놓고 파열음을 내고 있다고 보도했다. 핵심 쟁점은 '인간의 감독 없는 살상(Lethal operation without human oversight)' 허용 여부다.


보도에 따르면, 미 국방부와 앤트로픽 간의 협상은 현재 교착 상태다. 앤트로픽 측은 자사의 AI 모델이 ▲인간의 적절한 감독 없이 살상 작전에 투입되거나 ▲미국 시민을 대상으로 한 감시 및 도청 등에 악용되는 것을 막기 위해 엄격한 '사용 제한' 조항을 계약서에 넣을 것을 요구했다.
반면, 펜타곤의 입장은 강경하다. 국방부 관리들은 "기업의 내부 윤리 정책이 미국의 법적 테두리를 넘어 군사 작전의 효율성을 저해해서는 안 된다"며 앤트로픽의 요구를 '과도한 제한'으로 규정하고 거부했다.

피트 헤그세스(Pete Hegseth) 미 국방장관은 "우리는 전쟁을 수행할 수 없게 만드는(Don't allow you to fight) 모델은 사용하지 않을 것"이라며 앤트로픽을 우회적으로 비판했다. 전쟁터에서 적을 죽여야 하는 무기가 윤리적 알고리즘 때문에 작동을 멈추는 상황은 용납할 수 없다는, 군사적 실용주의를 분명히 한 것이다.


이번 갈등은 트럼프 행정부가 추진하는 급진적인 국방 혁신 전략과 맞닿아 있다. 미 국방부는 최근 미군을 'AI 우선 전투 부대'로 탈바꿈시키겠다는 새로운 전략을 발표했다. 이는 지휘 통제부터 표적 식별, 타격에 이르는 전 과정(Kill Chain)에 AI를 통합해 속도와 정확성을 극대화하겠다는 구상이다.

문제는 이 과정에서 '인간의 개입(Human in the loop)'을 어디까지 허용할 것인가다. 펜타곤은 중국, 러시아와의 미래 전장에서 승리하기 위해서는 인간의 느린 판단 속도를 배제한 '완전 자율 무기 체계(LAWS)' 도입이 불가피하다고 보고 있다. 즉, AI가 전장의 상황을 판단해 스스로 발포 명령을 내리는 단계까지 나아가려는 것이다.

챗GPT의 대항마 '클로드(Claude)'를 개발한 앤트로픽은 생성형 AI 분야의 선두 주자다. 기업공개(IPO)를 앞둔 앤트로픽 입장에서 미 국방부는 놓칠 수 없는 거대 고객이다. 오픈AI(OpenAI), 구글, 일론 머스크의 xAI 등이 이미 펜타곤과 손을 잡은 상황에서 계약 무산은 경영상의 큰 타격이 될 수 있다.

하지만 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 "AI는 국가 안보를 지원해야 하지만, 우리를 전제주의 적국(Autocratic adversaries)들과 똑같이 만드는 방식이어서는 안 된다"고 선을 그었다. 적들이 비윤리적 무기를 쓴다고 해서 미국마저 '통제 불능의 살인 기계'를 만들 수는 없다는 도덕적 마지노선을 지키겠다는 의지다.


이번 사태는 단순한 계약 분쟁을 넘어, 군사 AI의 미래를 결정짓는 중대한 분기점이 될 전망이다.
군사 전문가들은 "펜타곤이 앤트로픽의 요구를 수용할 경우, 향후 모든 국방 AI 계약에 '윤리적 족쇄'가 채워질 수 있다는 선례를 남기게 될 것"이라며 우려하고 있다. 반대로 앤트로픽이 굴복한다면, '인간의 통제를 벗어난 AI 무기'의 확산을 막을 최후의 보루가 무너지는 셈이 된다.

'방아쇠를 당길 권한을 기계에게 넘길 것인가.'

2억 달러짜리 계약서 뒤에 숨겨진 이 질문은, 지금 인류가 마주한 가장 서늘하고도 시급한 안보 딜레마를 대변하고 있다.


황상석 글로벌이코노믹 기자 h1234@g-enews.com