이미지 확대보기4월 국회의원 총선을 앞두고 '딥페이크'를 악용한 흑색선전이 우려된다. 이에 네이버, 카카오, 구글, 메타를 비롯한 IT 업계가 함께 관련 대응을 위한 '자율협의체'를 구성하는 등 딥페이크로 인한 부정적 영향을 사전에 차단하기 위해 나섰다.
전 세계적으로 선거에 악용될 우려가 있는 '딥페이크' 규제에 나서면서 우리나라 역시 흐름에 동참하는 모습이다. 한국인터넷기업협회의 지난 26일 발표에 따르면 회원사인 구글코리아, 네이버, 메타, 카카오, 틱톡, SK커뮤니케이션즈 등이 2024년 제22대 국회의원 선거와 재보궐 선거의 공정성과 신뢰성을 제고하기 위해 자율협의체를 구성해 대응 방안을 발표할 예정이다.
자율협의체 구성에 불을 붙인 것은 얼마 전 논란이 됐던 윤석열 대통령 양심고백 영상이다. 지난해 11월 숏폼 플랫폼 틱톡에 공개된 것으로 윤석열 대통령이 대선 후보였을 당시의 실제 연설 장면을 편집해 만들어졌다. 해당 영상이 '딥페이크'의 위험성을 알리게 되면서 국내에서도 딥페이크를 이용해 선거 후보자 비방 내지는 허위 정보 유포에 엄정 대응해야 한다는 의견에 힘이 실린다.
국회는 이미 딥페이크 부정 방지를 위한 행동에 나섰다. 지난해 12월, 본회의에서 선거일 90일 전부터 딥페이크를 활용한 선거운동을 금지하는 내용의 공직선거법 개정안을 의결한 것. 선거일부터 90일 전까지 인공지능(AI) 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 오디오, 영상, 이미지 등을 제작하고 유포할 수 없도록 했으며 위반 시 7년 이하의 징역 또는 1000만원 이상 5000만원 이하 벌금형에 처한다. 개정안은 지난달 29일부터 시행됐다.
네이버와 카카오 등 국내 플랫폼 기업의 경우, 인공지능이 만든 콘텐츠에 워터마크를 삽입한다. AI 제작 동영상·이미지 등에 '비가시성 워터마크'를 넣어 이용자들 눈에 보이진 않지만 기술적으로 워터마크 삽입 여부를 판별할 수 있다. 유럽연합(EU) 역시 채택한 방식으로, 지난 2일 AI가 만든 콘텐츠임을 명시하는 워터마크 표기를 강제하는 'AI 법'을 통과시킨 바 있다.
한편, 중앙선거관리위원회(이하 선관위)에 따르면 지난달 29일부터 16일까지 딥페이크를 이용한 선거운동 행위로 공직선거법을 위반한 게시물이 총 129건에 이르는 것으로 나타났다. 70여 명의 직원을 투입해 자체 모니터링을 실시한 결과다. 다만 선관위가 구축한 딥페이크 감시 인력에도 한계가 있어 적발되지 않은 총선 관련 딥페이크는 더 많을 것으로 추산된다.
윤재옥 국민의힘 원내대표는 "선거일이 가까워질수록 딥페이크 영상물과 가짜 정보가 더욱 창궐하게 될 것"이라며 "여야가 관련 기업들과 협력해 특단의 대책을 마련하지 않는다면 이번 총선이 딥페이크로 인해 왜곡될 수 있다는 사실을 명심해야 한다"고 말했다.
편슬기 글로벌이코노믹 기자 miyuu90@g-enews.com
