이미지 확대보기올 초 대만 총통선거 개표 조작 동영상은 동영상 생성 AI 파급력을 세상에 알린 대표적 사례다.
딥페이크 유통 경로는 텔레그램이다. N번방 사건을 비롯해 국내 유명 대학에서 문제가 된 딥페이크나 마약동아리 범죄도 텔레그램 대화방을 통한 범죄다. 전 세계 딥페이크 음란물 피해자의 53%가 한국인이라는 미국 사이버 보안업체의 보고서도 있을 정도다.
텔레그램은 암호화와 익명으로 사용자를 끌어모으는 세계적인 SNS 플랫폼이다.
2013년 독일에서 출시돼 아랍에미리트 두바이에 본사를 둔 텔레그램은 수사에 협조하지 않기로 유명하다. 한국 검찰과 경찰의 성 착취물 유포나 마약 등의 범죄 수사 과정에서도 마찬가지 태도다.
범죄 압수수색에 순수하게 응하고 있는 카카오나 페이스북, 인스타그램, 왓츠앱과 달리 철저히 무시하는 게 특징이다.
플랫폼 업체는 불법 콘텐츠 상당 부분을 기술적으로 차단할 수 있다. 이른바 금지 키워드를 설정하거나 콘텐츠를 차단하는 알고리즘을 적용하면 가능하다.
하지만 플랫폼 기업은 이런 분야에 투자를 꺼린다. 기술 개발 비용 문제가 아니다. 플랫폼에서 콘텐츠를 규제하면 시장이 형성되지 않기 때문이다.
불법을 용인하는 게 수익 모델인 셈이다. 프랑스 정부가 텔레그램 창업자이자 CEO인 파벨 두로프를 기소한 게 국제적인 관심을 불러일으킨 이유다.
유해 콘텐츠를 제작·유포하는 사람뿐 아니라 플랫폼 관리자에게도 책임을 묻는 분위기다.
브라질에서는 일론 머스크의 X에 대해 사용 금지를 결정한 상태다. 앞으로 AI를 활용한 불법 콘텐츠는 더 늘어날 수밖에 없다.
특히 사람 목소리를 훔쳐 조작하는 딥보이스 범죄도 활개를 치는 모양새다. 미국은 백악관 명령으로 AI를 활용한 콘텐츠에 워터마크를 의무화하고 있고, EU도 불법 게시물 삭제를 명령하고 있다.
우리도 적절한 SNS 규제 대책을 마련해야 한다.
