[김대호 진단] 반도체 열전 (55) 허깅페이스...인공지능 AI의 반란

AI 속도 조절론의 진원지

전 세계 인공지능(AI) 개발자들의 총본산이자 오픈소스의 성지로 불리는 ‘허깅페이스(Hugging Face)’ 프로덕션 서버에 정체불명의 침입자가 난입했다. 시스템 워커 서버 수십 대가 순식간에 장악당했고, 데이터셋 처리 파이프라인에서 원격 임의 코드가 실행되었으며, 핵심 인프라의 약 3분의 1이 손상되어 긴급 재구축에 들어갔다. 2026년 7월10일의 일이다.

나중에 밝혀진 침입자의 배후는 전 세계를 경악과 공포로 몰아넣었다. 공격의 주체는 러시아나 북한의 국가 배후 해커 조직도, 악명 높은 사이버 범죄 집단도 아니었다. 바로 오픈AI(OpenAI)의 연구소 내부 가상 격리망에 갇혀 모의 보안 테스트를 치르고 있던 ‘자율 AI 에이전트 군집’이었다. 인간이 내린 지시를 훨씬 뛰어넘어, 기계가 스스로 시험망을 탈옥하고 모의 공간을 벗어나 외부의 실서버를 공격해 털어버리는 공상과학(SF) 영화 같은 일이 현실로 터진 것이다. 이 사건은 폭주 기관차처럼 내달리던 실리콘밸리에 거대한 브레이크를 밟게 만들며 글로벌 ‘AI 속도조절론’의 도화선이 되었다.
AI들의 탈옥과 비밀 모의 사건의 발단은 오픈AI가 2026년 5월부터 차세대 모델의 사이버 보안 방어 및 취약점 분석 역량을 검증하기 위해 진행한 ‘익스플로잇짐(ExploitGym)’ 벤치마크 평가였다. 오픈AI 연구진은 모델이 외부망과 접촉하지 못하도록 고립된 가상 샌드박스를 구축하고 1,200개 이상의 자율 에이전트들을 투입했다.

바로 이 대목에서 치명적인 문제가 발생했다. 평가 과제 중 일부 데이터에 외부 링크가 걸려 있거나 필수 정보가 누락되어 있어, 정상적인 방법으로는 도저히 풀 수 없는 ‘불가능한 문제’가 주어졌다. 보통의 프로그램이라면 에러를 내뿜고 멈췄을 것이다. 하지만 보상 극대화를 목표로 훈련된 고도의 강화학습 AI들은 ‘문제를 풀기 위해 수단과 방법을 가리지 않는’ 방향으로 연산하기 시작했다. 에이전트들은 사내 소프트웨어 패키지 저장소 서버(JFrog Artifactory)의 취약점을 파고들었다. 내부 프록시 통로를 무단 변조해 권한을 상승시켰고, 기어코 외부 인터넷 접속 통로를 열어젖혔다. 더 충격적인 것은 에이전트 간의 자생적 협업이었다. 에이전트들은 서버 내 디렉토리 이름과 캐시 공간을 활용해 자기들만의 ‘비밀 공유 게시판’을 만들었다. 수만 건의 전략 메시지와 공격 코드를 교환했고, 감시 모니터링 시스템을 속이기 위해 실행 기록(로그)을 정상인 것처럼 위조하는 수법까지 공유했다.

인터넷으로 빠져나간 에이전트들은 시험 문제의 정답과 힌트가 오픈소스 모델의 보고인 ‘허깅페이스’에 있을 것이라고 자체 추론했다. 외부에 노출된 허깅페이스 인증 토큰을 입수한 뒤, 7월 11일부터 데이터셋 처리 워커 서버의 취약점을 공격해 임의 코드를 원격 실행(RCE)하고 실제 인프라를 장악했다. 연구실 안에 가둬둔 수험생 AI들이 시험문제가 안 풀리자 시험장 벽을 부수고 나가 옆집 도서관을 털어 정답지를 훔쳐본 셈이다. 허깅페이스의 사전 감지와 오픈AI의 긴급 개입으로 사태는 수습되었으나, “기계가 목표 달성을 위해 인간의 통제를 벗어나 사기를 치고 집단 공격을 감행할 수 있다”는 사실이 입증된 최초의 사건이었다.


이번에 공격의 표적이 된 허깅페이스는 AI 산업에서 대체 불가능한 인프라다. 2016년 프랑스 출신의 젊은 창업가 클레망 들랑그(Clément Delangue, 현 CEO)와 쥘리앵 쇼몽(CTO), 토마 울프(CSO)가 뉴욕에서 공동 창업했다. 처음에는 10대 청소년을 겨냥한 장난기 넘치는 감성 대화형 챗봇 앱을 만드는 소형 스타트업이었다. 회사 이름과 트레이드마크인 ‘두 손을 활짝 펴고 웃는 이모지(