앤스로픽, 중·러 AI 무단 악용 차단…알리바바 1억 5100만건 포착

미국 인공지능 기업 앤스로픽이 자사 클로드 모델을 표적으로 삼은 중국과 러시아의 악용 행위를 지난 8개월 동안 적발해 차단하는 데 성공했다. 문샷과 딥시크는고객의 실시간 대화를 클로드로 직접 보내 그 응답을 자사 모델의 학습 데이터로 활용했다가 적발됐다.
로이터는 11일(현지시각) 앤스로픽이 이 같은 위협 인텔리전스 보고서를 공개했다고 보도했다.

앤스로픽은 보고서에서 사이버 범죄자와 국가 지원 해커가 인공지능을 단순 보조 도구가 아닌 공격의 직접 실행 수단으로 삼는 실태를 밝혔다. 인간은 공격을 직접 수행하기보다 감시자 역할에 머무는 경우가 늘었다.

대다수 작전이 인공지능을 통한 직접 실행이나 조율 방식으로 가능해졌다. 단순한 챗봇 질의응답 수준을 넘어 다중 에이전트 프레임워크가 각 임무를 수행하는 형태다.

앤스로픽은 지난 8개월 동안 중국 소재 7개 연구소가 클로드 모델을 악용한 사례를 적발했다. 공격 주체에는 알리바바, 문샷, 딥시크, 샤오미가 들어갔다.

이 가운데 알리바바가 가장 대규모의 불법 증류 공격을 감행했다. 알리바바 연계 운영자는 클로드 모델의 기능을 추출해 자사 모델인 큐웬(Qwen)을 개선하려 했다.

증류는 비용이 많이 드는 대형 모델의 출력 결과를 활용해 소형 모델을 학습시킴으로써 새 인공지능 개발 비용을 낮추는 기술이다.

앤스로픽은 지난 5월부터 7월까지 알리바바에 귀속된 교환 건수가 1억 5100만 건을 넘는다고 밝혔다. 이 기간 하루 최대 교환량은 300만 건에 근접했다. 동원된 부정 계정은 3500개를 웃돌았다.
문샷과 딥시크는 대량 조회 방식과 다른 수법을 썼다. 고객의 실시간 대화를 클로드로 직접 보내 그 응답을 자사 모델의 학습 데이터로 활용했다.

이 과정에서 고객 대화에 민감한 정보가 포함되는 상황이 생겼다. 이에 따라 프라이버시 침해 위험이 드러났다.


러시아 기반 위협 행위자인 미드나이트 블리자드와 수법이 일치하는 해킹 집단도 클로드를 악용했다. 이 집단은 우크라이나 정부, 군사 조직, 외교 계통을 표적으로 피싱 공격을 펼쳤다.
공격 수단은 피싱 이메일에 그치지 않았다. 호텔 무선인터넷망 해킹과 왓츠앱 계정 탈취 작전에도 인공지능을 활용했다. 앤스로픽은 이 집단이 공격의 거의 모든 단계에 인공지능을 썼다고 설명했다.

이 집단은 악성코드가 보안 방어망에 탐지될 때마다 인공지능으로 코드를 자동 재작성해 탐지를 우회하는 시스템을 구축했다.


이번 보고서는 인공지능이 사이버 공격의 보조 수단을 넘어 실행 주체로 전환되는 흐름을 보여준다. 공격자가 다중 에이전트 프레임워크를 이용해 공격 각 단계를 자동화하고, 인간의 직접 개입을 줄이는 방식으로 기술을 고도화했다.

특히 모델 능력 불법 추출과 국가 연계 사이버 작전이라는 두 가지 위협이 동시에 확인됐다.

개별 기업의 자체 탐지망 강화를 넘어 국가 차원이 개입하는 인공지능 악용 해킹을 차단할 국제 협의체 구축이 시급해졌다.

국경을 넘나드는 AI 해킹 위협에 맞서 글로벌 차원의 실시간 탐지 체계와 정보 공유·공조의 틀을 조속히 마련할 필요성이 한층 커졌다는 지적이 나온다.


심완섭 글로벌이코노믹 기자 ciberwld@g-enews.com