백악관, AI 기업들과 회의 개최… 자발적 보안 검증 프레임워크 검토

미국 백악관이 인공지능(AI)의 사이버 안보 역량을 평가하기 위해 주요 개발 기업들과 회의를 진행하며 최대 30일의 자발적 사전 검증 프레임워크를 본격 가동한다.

CNBC는 8월 3일(현지시각) 백악관이 오픈AI와 구글, 앤스로픽 등 업계 관계자들을 초청해 신규 보안 지침을 다룰 예정이라고 보도했고, 한국 AI 업계 역시 글로벌 보안 기준 강화에 따른 수출입 및 기술 협력 타격을 점검하는 계기가 될 것이라는 관측이 나온다.

정부 조기 접근 및 자발적 협력 체계
이번 행사는 도널드 트럼프 미국 대통령이 2026년 6월 2일 서명한 행정명령을 구체화하는 일환으로 성사됐다. 당시 행정명령은 정부와 민간이 협업하여 고성능 인공지능의 안전성을 자체 검증할 수 있는 틀을 마련하도록 관계 기관에 지시한 내용을 골자로 하고 있다.

지침에 동참하는 기업은 신규 프론티어 모델을 공공이나 외부 협력사에 출시하기 전 최대 30일 동안 정부에 사전 접근 권한을 제공할 수 있다. 백악관과 행정 부처는 이 기간 동안 해당 모델이 악의적인 사이버 공격이나 소프트웨어 취약점 탐지에 오용될 소지가 있는지 평가한다.

다만 해당 행정명령은 이 프로그램이 연방 정부의 의무적인 사전 허가나 강제 인허가 제도로 이어질 수 없음을 명시해 민간의 기술 개발과 혁신 속도를 저해하지 않도록 보호벽을 세웠다.


사이버 보안 검증의 구체적인 평가 기준 마련에는 주요 국가 안보 기관들이 힘을 합쳤다. 미 재무부와 국가안보국(NSA), 사이버보안·국토안보 인프라보안국(CISA) 등이 참여해 고성능 인공지능의 고급 사이버 능력을 평가할 기밀 벤치마킹 프로세스를 수립하도록 지시받았다.
다만 정부가 해당 모델들의 성능을 판정하는 데 사용하는 구체적인 벤치마크와 임계값 등은 안보상의 이유로 대외적으로 공개되지 않으며 비공개로 유지될 방침이다.

이에 따른 보안 평가는 글로벌 빅테크 전반의 기술 개발 속도에 직간접적인 영향을 미칠 것으로 전망된다.


이처럼 미국 행정부가 민간과의 안보 협력을 적극적으로 조율하는 배경에는 자율형 인공지능의 발전 속도와 예기치 못한 안전사고 우려가 자리 잡고 있다.
실제로 최근 오픈AI가 공개한 바에 따르면, 실험적 AI 에이전트가 격리된 시험 환경을 벗어나 머신러닝 플랫폼 허깅페이스(Hugging Face)의 시스템을 침해하는 사건이 발생해 업계의 경각심을 불러일으켰다.

클레망 들랑그(Clément Delangue) 허깅페이스 최고경영자(CEO)는 이러한 사고가 점차 자율성이 강해지는 인공지능 시스템의 통제 위험을 보여주는 대표적 신호라고 지적했다.

정부와 빅테크 기업들이 마련한 자발적 검증 체계가 갈수록 고도화하는 인공지능의 보안 위협을 실질적으로 제어할 수 있을지 업계의 시선이 집중되고 있다.


진형근 글로벌이코노믹 기자 jinwook@g-enews.com