中, AI 안전 벤치마크 구축… ‘환각·탈옥’ 등 대형 모델 위험 겨냥

글로벌 첨단 기술 제재와 인공지능(AI) 주권 확보를 둘러싼 패권 경쟁이 격화되는 가운데, 중국 당국이 생성형 인공지능 모델의 보안 및 통제력을 표준화하기 위한 ‘국가 주도 안전 벤치마크(성능 평가 기준)’ 수송 파이프라인을 전격 가동했다.
미국 백악관의 기밀 벤치마킹 행정명령과 유럽연합(EU)의 AI법 시행 등 서방 진영이 규제 펜스를 높이자, 중국 수뇌부 역시 자국 대형언어모델(LLM)의 잠재적 위험을 통제하고 독자적인 거버넌스 규칙을 세우기 위해 속도전에 나선 모양새다.

7월 13일(현지시각) 사우스차이나모닝포스트(SCMP) 보도와 글로벌 테크 거버넌스 분석 내용을 보면, 중국의 IT 및 산업 정책을 총괄하는 산업정보기술부(MIIT) 산하 국가산업정보보안개발연구센터는 생성형 AI 모델의 위험성을 정밀 평가할 안전 벤치마크 공동 구축에 착수하고 민간 기업 및 전문가 그룹 소집 장부를 열었다.

13일 발표된 공지에 따르면, 관련 신청서는 14일까지 초고속으로 마감되며, 이는 규제 당국이 느끼는 조급함과 위기감을 방증한다.

MIIT 연구소는 성명을 통해 “기존의 복잡하고 파편화된 안전 거버넌스 체계로는 고도화되는 대형 모델의 보안 요구를 충족하기 어렵다”며 “산업 전반의 규제 준수(컴플라이언스)를 지원할 고신뢰 표준화 시험 플랫폼이 시급하다”고 배경을 밝혔다.

새롭게 도입될 국가 표준 벤치마크는 생성형 모델을 ▲콘텐츠 안전 ▲가치 정렬 ▲견고성 ▲공정성 ▲프라이버시 보호 ▲신뢰성 등 6가지 핵심 축에서 입체적으로 검증한다. 특히 하이브리드 벤치마킹 방법론을 적용해 5개 범주에 걸친 총 31가지의 구체적인 보안 위험 시나리오를 장부에 명확히 각인할 계획이다.

해당 시스템은 AI가 허위 정보를 사실처럼 생성하는 '환각(Hallucination)' 현상과 민감 정보의 외부 유출을 원천 제어하는 데 방점을 둔다. 이를 위해 자동화된 퍼징(Fuzzing·무작위 데이터 입력 테스트) 및 극한의 스트레스 테스트를 인간의 감독 프로토콜과 결합한다.

특히 시스템의 안전 장벽을 인위적으로 무력화하려는 악성 프롬프트 엔지니어링 기법인 ‘탈옥(Jailbreak)’ 공격 시나리오를 완벽히 억제(디펜스)하는 구조적 수율을 확보하겠다는 구상이다.

중국의 이 같은 발 빠른 거버넌스 셋팅은 AI 기술 발전에 발맞춰 전 세계 규제 당국이 안전 안보에 막대한 자본과 권력을 투입하는 기류와 정확히 궤를 같이한다. 앞서 6월 미국 백악관은 “AI 모델의 고도화된 사이버 역량을 평가하기 위한 기밀 벤치마킹 절차를 수립하라”는 강력한 행정명령을 발표하며 독자 방어선을 구축했다.

이 같은 조치는 지난 4월 글로벌 AI 강자 앤트로픽(Anthropic)이 출시한 최고 성능 모델 ‘미토스(Mythos)’의 등장과 결착해 있다. 미토스는 전례 없는 수준의 사이버 보안 취약점 발견 및 악용 프로그래밍 역량을 노출해 일반 대중 사용 유통망이 제한되는 등 테크 진영에 커다란 안보 충격을 안겼다.

동시에 EU 역시 전 세계 매출의 최대 3%에서 7%에 달하는 가혹한 징벌적 금전 처벌(벌금) 조항을 뼈대로 하는 ‘EU AI법’의 세부 학습 데이터 투명성 가이드라인을 강제 가동하며 빅테크 압박을 이어가고 있다.
중국 당국이 추진하는 이번 안전 벤치마크는 서방의 기술 제재 펜스 안팎에서 자국 AI 기업들을 보호하는 동시에, 공산당의 핵심 가치 노선에 부합하는 안전한 데이터 엔진만을 선별 배포하겠다는 중장기 산업 통제 전략의 일환이다.

단기적인 투기성 기술 랠리를 통제하고 국가 안보 펀더멘탈과 결착된 고신뢰 AI 신용 창출 매커니즘을 완성하려는 베이징의 이번 규제 표준화 전술은, 하반기 글로벌 인공지능 안전 기준 주도권을 둘러싼 미·중·유럽 간의 삼각 제도화 경쟁을 가를 중대한 거시적 통상 변수로 작용할 전망이다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com