이미지 확대보기지난 1월 미국 뉴햄프셔주 예비 선거에서 딥페이크 기술을 악용한 선거 방해 사건이 미국 역사상 최초로 발생했다. "이번 주 화요일 투표는 도널드 트럼프를 다시 당선시키려는 움직임에 힘을 실어줄 뿐이다"라며 예비 선거에 참여하지 말 것을 요청한 로보콜(자동녹음 전화)이 유권자들에게 전달된 것이다. 조 바이든 대통령의 목소리는 물론 습관적인 말버릇까지 구현한 전화에는 딥페이크 기술이 사용된 것으로 밝혀졌다.
줄리 차베스 로드리게스 바이든 재선 캠페인 책임자는 "이 사건을 조사 중에 있으며 취할 수 있는 모든 추가 조치를 적극적으로 논의하고 있다. 해당 로보콜은 자유롭고 공정한 선거를 고의적으로 훼손하려는 명백한 시도"라고 비판했다. 하니 파리드 디지털 조사 전문가는 "바이든의 로보콜은 선거에서 AI가 어떻게 '무기화'될 수 있는지를 보여준다. 앞으로 일어날 일들의 서막에 불과할 것"이라고 말했다.
미국 시민단체에서는 조 바이든 대통령의 로보콜 사건이 정치 딥페이크의 시대가 도래했다는 새로운 증거이며, 세계 각국 정부는 다가올 혼란을 예방하기 위해 딥페이크 사용을 제한하는 법안 통과를 고려해야 한다며 법 제정을 촉구하고 나섰다.
해당 사건으로 미 연방통신위원회는 AI 오디오를 사용하는 로보콜을 금지했다. 이어 미국 하원은 지난 20일 AI를 규제할 수 있는 내용을 담은 권고안을 발표했다. 미국 뉴스 사이트 악시오스의 보도에 따르면 지난 7일 기준 40개 이상의 주에서 딥페이크 방지 관련 법안을 포함한 총 407건의 AI 관련 법안이 발의됐다.
세계 각국에서도 유사한 흐름이 포착된다. 2022년에는 러시아의 우크라이나 침공 직후 러시아에 항복하자고 말하는 젤렌스키 우크라이나 대통령의 딥페이크 영상이 논란을 낳았다. 지난해 9월 있었던 슬로바키아의 선거에서는 특정 후보를 사칭해 주류 가격 인상 및 선거 조작 계획을 논의하는 딥페이크 음성이 페이스북을 통해 유포되기도 했다. 지난해 11월 일본에서는 기시다 후미오 총리가 성적 발언을 하는 30초 영상이 X(옛 트위터)에 유포돼 230만 회 이상의 조회수를 기록했다.
유럽연합(EU) 역시 오는 6월 새로운 의회 선출을 위한 선거를 앞두고 있는 만큼 딥페이크 규제에 민감한 모습이다. 지난 2일 AI가 만든 콘텐츠임을 명시하는 워터마크 표기를 강제하는 'AI 법'을 통과시켰으며, 선거관리위원회를 통해 글로벌 플랫폼을 대상으로 오는 3월까지 선거 허위 정보에 대응하기 위한 가이드라인 발표를 요구했다. 우리나라도 지난 28일 네이버와 카카오를 비롯한 주요 IT 대기업이 악의적 선거 딥페이크에 대응하기 위한 자율협의체를 구성했다.
딥페이크 자체가 아닌 그로 인해 유발되는 혼란을 걱정하는 목소리도 나온다. 진실과 거짓이 뒤섞여 판별하기 어려워지는 상황에서 결국 사람들이 진실을 믿지 않게 되는 '거짓말쟁이의 배당금(liar's dividend)' 현상이 발생할 수 있다는 주장이다. 딥페이크 조작이 언제, 어디서나 이뤄질 수 있다는 대중의 인식을 악용해 '정보에 대한 신뢰'를 훼손할 가능성을 배제할 수 없다는 것이다.
도널드 트럼프 전 미국 대통령이 자신의 실수를 모아놓은 광고 영상을 두고 "AI를 사용한 가짜"라며 부정한 사건과 지난해 4월 인도의 한 정치인이 당원들을 비판하는 녹음에 대해 AI에 의해 생성됐다고 주장했으나 법의학 분석 결과 진짜인 것으로 판명 난 사건이 대표적이다.
허위 정보 연구 회사 그래피카의 리비 랭 분석가는 "AI가 진실이라는 개념 자체를 불안정하게 만들면서 일부 정치인들의 악의적인 의혹들을 부인하고 방어하기 위한 희생양으로도 이용되고 있다"며 딥페이크가 야기하는 또 다른 현상에 대해 우려를 표했다.
편슬기 글로벌이코노믹 기자 miyuu90@g-enews.com
