MS·오픈AI, 국제 해커집단 챗GPT 사용 차단…“AI 이용 공격은 없어”

국제적으로 활동하는 해커집단들도 생성형 인공지능(AI)을 활용하고 있는 것으로 나타났다.

14일(현지시간) 뉴욕타임스(NYT)는 챗GPT의 개발사 오픈AI와 마이크로소프트(MS)는 북한과 중국, 러시아, 이란 등과 연계된 국제 해커집단 5곳의 챗GPT 이용 사실을 감지했으며, 이들의 사이트 접근을 차단했다고 밝혔다.

MS에 따르면 러시아와 연계된 한 해커집단은 우크라이나 전쟁과 관련해 위성통신과 레이더 기술에 대한 연구에 챗GPT를 활용했다.
이란의 이슬람혁명수비대와 연계된 해커집단의 경우 컴퓨터 보안 시스템 우회법을 모색하는 과정에서 챗GPT의 도움을 받았다.

또한 이들은 피싱 메일을 국제 개발 기구가 보내는 것으로 위장하거나, 페미니즘 활동가를 겨냥한 피싱 메일을 작성하는 데도 챗GPT를 활용했다.

다만 MS는 일부 전문가들이 우려한 것처럼 해커들이 AI를 이용한 새로운 해킹 기법을 만들어내거나 시도한 경우는 없었다고 설명했다.
해커들은 주로 피싱용 메일 초안을 작성하거나 문서 번역 및 프로그램 오류수정에 챗GPT를 사용한 것으로 나타났다.

톰 버트 MS 보안 분야 책임자는 “해커들도 일반 컴퓨터 사용자들처럼 생산성을 높이는 데 오픈AI를 사용했다”고 말했다.

오픈AI의 밥 로트스테드 보안 분야 책임자도 “적대국과 연계된 해커들이 챗GPT를 활용해 일반 검색엔진보다 참신하고 새로운 해킹 방법을 찾아냈다는 증거는 아직 발견되지 않았다”고 밝혔다.
한편, MS와 오픈AI는 현재 300개 이상의 해커집단과 사이버 범죄자의 움직임을 모니터링하고 있으며, 오픈AI의 자체 시스템을 이용해 이들이 자사 AI의 사용을 추적하고 쉽게 차단할 수 있다고 설명했다.

다만, 해커들이 오픈소스 AI 기술을 사용하는 경우, 이를 확인할 수는 있지만 발견 및 차단하기가 더욱 어려워졌다고 지적했다.

톰 버트는 NYT를 통해 “해커들이 오픈소스 AI를 사용할 경우, 해당 기술을 누가 배포하고 어떻게 배포하는지, 또 해당 기술을 책임감 있고 안전하게 사용하기 위한 정책이 무엇인지 항상 알 수는 없다”라고 말했다.


최용석 글로벌이코노믹 기자 rpch@g-enews.com