SKT, 딥페이크 범죄 주의사항 RCS 메시지 전달
KT·LGU+, 딥보이스 판별 서비스 출시 예고
'AI 범죄'로부터 자사 고객 '적극 보호'
KT·LGU+, 딥보이스 판별 서비스 출시 예고
'AI 범죄'로부터 자사 고객 '적극 보호'

SK텔레콤과 KT, LG유플러스가 인공지능(AI) 범죄 딥페이크와 딥보이스에 대응하기 위해 총력을 쏟고 있다. AI의 무분별한 악용으로 발생하는 범죄를 막기 위해, 경각심을 고취하는 문자 메시지 발송부터 직접적으로 범죄를 차단하는 관련 기술 개발까지 전방위적으로 예방 및 방지에 나서는 모습이다.
SKT는 청소년 딥페이크 범죄 예방을 위해 경찰청과 손잡고 청소년·학부모 고객에 RCS 메시지(차세대 문자 메시지 서비스)를 발송했다. 해당 메시지에는 딥페이크 제작 범죄에 대한 예방 방안과 주의사항 등이 담겼다.
AI는 하루가 다르게 발전하는데 반해 기술을 올바르게 사용하는 방법과 윤리 의식 제고는 발전 속도를 따라가지 못하는 실정이다. 청소년들이 자칫 딥페이크 범죄를 일종의 장난으로 인식할 수 있다. 이에 SKT는 청소년들에게 공익성 문자 메시지 발송을 통해 '경각심'을 일깨워 줄 수 있기를 기대하고 있다.
SKT는 또 정부가 운영하는 'AI 윤리·신뢰성 포럼'에 참여, 기업의 AI 윤리와 신뢰성 제고 활동을 실시했다. 당시 포럼에서 SKT는 AI 거버넌스 원칙 'T·H·E·AI (by Telco, for Humanity with Ethics AI)' 수립, AI 행동규범의 전 구성원 내재화를 추진했다. 기업 차원에서도 AI에 대한 윤리 의식을 갖고 사람을 위해 사용할 수 있도록 하자는 취지에서다.

타인의 사진을 합성하는 딥페이크 성범죄 사건 외에도 목소리를 AI에 학습시킨 딥보이스도 문제다. 최근 보이스피싱 범죄자들은 타깃에 전화를 건 뒤, 상대방이 응답한 "여보세요", "누구시죠" 등과 같은 짧은 단어 두세 마디로 음성 샘플을 추출해 '딥보이스'를 제작하는 것으로 알려졌다. 이렇게 통화 당사자의 음성을 학습시킨 뒤 가족이나 지인에게 전화를 걸어 한층 고도화된 수법의 보이스피싱을 시도하는 것. 관련 피해가 점점 확산되자 딥보이스를 감지할 수 있는 기술이 잇따라 개발되고 있다.
KT는 공공기관에 '목소리 인증' 설루션을 적용했다. 상담 중 목소리를 통해 본인을 확인하는 서비스인 만큼, 음성합성(TTS) 등 위·변조 기술을 이용한 '딥보이스'를 예방하기 위해서다. 기술 발전에 따라 목소리의 유사성이 점차 높아지고 있어 KT는 지속적으로 목소리 인증 품질을 개선하고 고도화하고 있다.
고객을 대상으로 한 딥보이스 판별 기술도 출시를 앞두고 있다. KT가 기존에 제공하고 있던 'AI 보이스피싱 탐지·알림 서비스'를 더욱 발전시켜 보이스피싱 범죄자의 목소리 뿐만 아니라 AI로 실제 인물의 목소리를 학습한 딥보이스까지 판별하는 서비스를 올해 2분기에 선보일 계획이다.
LG유플러스도 딥보이스 범죄 예방을 위한 기술 개발에 박차를 가하고 있다. 자사의 AI 통화 에이전트인 '익시오(ixi-O)'에 딥페이크 음성을 탐지하는 '보이스 안티스푸핑(anti-spoofing, 딥보이스 음성 판별)' 기술을 상반기 내 탑재한다고 밝혔다. LG유플러스는 지난해 익시오 공개와 함께 온디바이스 안티스푸핑 기술을 개발하겠다고 예고한 바 있는데, 고객이 서비스를 이용함에 있어 범죄에 노출되지 않도록 관련 기술 고도화에 적극적으로 나서고 있는 것.
LG유플러스의 안티스푸핑 기술은 실시간 통화에서 상대방의 음성이 딥보이스 등 AI로 만들어진 것인지, 실제 사람의 것인지 구별할 수 있다. 자체 조사 결과 95%의 정확도를 보인 것으로 확인됐다. 익시오와 마찬가지로 온디바이스(On Device) 구현으로 데이터를 서버에 전송하지 않고도 판별이 가능하다는 점 또한 장점 중 하나다.
편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com