메타, AI 안경 ‘헌팅 영상’ 단속 나섰지만 곳곳서 허점 드러내

메타플랫폼스가 인공지능(AI) 스마트글라스로 몰래 촬영한 괴롭힘성 ‘헌팅 영상’과 장난 영상을 인스타그램에서 강력히 단속하겠다고 선언했지만 한 달이 지나도록 상당수 콘텐츠가 그대로 남아 있는 것으로 나타났다.
메타는 관련 콘텐츠 수천건을 삭제하고 대형 계정 여러 개를 퇴출했다고 밝혔지만 비슷한 영상이 인기 계정과 인증 계정에서 계속 발견됐기 때문이다. 삭제된 계정이 다시 복구되는 사례까지 나타나면서 콘텐츠 모더레이션의 일관성에도 의문이 제기되고 있다.

16일(현지시각) 미국 경제매체 비즈니스인사이더에 따르면 메타 AI 안경을 착용한 남성이 길거리에서 여성을 몰래 촬영하며 헌팅 대사를 건네는 영상과 매장 직원 등을 상대로 장난을 치는 영상이 인스타그램 릴스에서 계속 확산하고 있다.

이 같은 영상 가운데 일부는 수백만회의 조회수를 기록했으며 인스타그램에는 ‘메타 글래스로 촬영됨’이라는 표시까지 붙어 있다고 비즈니스인사이더는 지적했다.
아담 모세리 인스타그램 총괄은 다른 사람을 몰래 촬영해 괴롭힌 뒤 플랫폼에 게시하는 행위를 원하지 않는다며 가능한 모든 방법을 동원해 대응하겠다고 지난달 중순 밝힌 바 있다.


그러나 단속 집행은 일관되지 않은 것으로 나타났다.

비즈니스인사이더에 따르면 이 매체가 서로 다른 계정에서 찾아낸 헌팅과 괴롭힘성 장난 영상 20여건의 링크를 메타에 전달하자 메타는 이 가운데 9건을 삭제했다.

삭제된 영상 가운데는 한 남성이 길거리에서 여성을 촬영하면서 “당신은 비밀 코드인가요”라고 물은 뒤 “당신을 해독하려고 하기 때문”이라는 헌팅 대사를 건네는 장면도 포함됐다.
그러나 같은 크리에이터가 다른 여성들에게 똑같은 대사를 사용하는 영상 여러 건은 그대로 남아 있었다.

메타는 단속 자체는 광범위하게 이뤄지고 있다는 입장이다. 트레이시 클레이튼 메타 대변인은 지금까지 수천건의 콘텐츠를 삭제했으며 대형 계정 여러 개도 퇴출했다고 밝혔다.

이번 조치는 성인을 성적으로 대상화하거나 성희롱하는 행위를 폭넓게 금지하는 메타의 기존 괴롭힘·따돌림 관련 커뮤니티 규정에 따라 이뤄지고 있다.

메타는 헌팅 콘텐츠를 찾는 데 자주 사용되는 ‘리즈(rizz)’와 ‘콜드 어프로치(cold approach)’ 등의 검색어도 인스타그램 검색에서 차단했다. 리즈는 상대방을 끌어당기는 매력이나 이성을 유혹하는 능력을 뜻하는 속어이며 콜드 어프로치는 모르는 사람에게 즉석에서 접근하는 방식을 말한다.

계정 제재 과정에서도 혼선이 드러났다.

메타는 지난달 단속을 시작하면서 AI 안경으로 공공장소의 여성들에게 접근하는 영상을 올리던 대형 헌팅 계정 2개를 비활성화했다. 두 계정 모두 팔로워가 각각 100만명을 넘었다.

그러나 이 가운데 한 계정은 며칠 뒤 다시 활성화됐다. 메타 측은 실수로 복구된 것이라고 설명했고 비즈니스인사이더가 이를 알린 뒤 다시 계정을 정지시켰다.

또 다른 사례도 있다.

팔로워 약 17만4000명을 보유한 크리에이터 카렌 바박니아는 메타 AI 안경을 착용한 채 자신이 에스코트라고 설명한 여성들에게 접근하는 영상을 게시해왔다.

비즈니스인사이더가 그의 영상 가운데 하나를 문제 사례로 메타에 전달하자 계정은 다음날 비활성화됐다. 그러나 하루 뒤 계정이 다시 살아났고 기존 영상들도 복원됐다.

바박니아는 자신의 영상에 등장한 여성들이 자신이 유명한 콘텐츠 제작자라는 사실을 알고 있어 촬영 중이라는 점도 인지했을 것이라고 주장했다. 다만 일반 여성들을 동의 없이 촬영하는 다른 헌팅 콘텐츠에 대해서는 부정적인 입장을 밝혔다.

런던정경대(LSE)의 디지털 범죄학자 캐롤리나 아레는 “메타가 문제를 사용자 행동이나 집행 오류로 축소하면서 해당 행동을 가능하게 만든 정책과 플랫폼 구조의 책임은 충분히 인정하지 않고 있다”고 지적했다.


AI 안경으로 만든 헌팅·장난 영상은 인스타그램에만 존재하는 것은 아니다. 틱톡과 유튜브에서도 비슷한 콘텐츠가 유통되고 있다.

비즈니스인사이더가 틱톡에 인스타그램에도 영상을 올린 헌팅 크리에이터들의 영상 4건을 전달하자 틱톡은 따돌림과 성희롱 관련 정책을 이유로 이 가운데 2건을 삭제했다.

유튜브도 메타 AI 안경 헌팅 콘텐츠를 게시한 채널 4개의 사례를 전달받은 뒤 영상 여러 개를 삭제하고 해당 채널 가운데 하나를 수익화 프로그램에서 제외했다.

메타는 콘텐츠 단속 과정에서도 AI 활용을 확대하고 있다.

메타는 기존에 외부 인력으로 구성된 인간 검토자에 크게 의존하는 방식만으로는 막대한 양의 콘텐츠를 처리하기 어렵다고 보고 AI가 규정 위반 콘텐츠를 자동으로 찾아내는 시스템 개발에 나서고 있다.

메타는 지난 6월 초기 시험에서 AI 시스템이 인간 모더레이터보다 실수를 적게 하면서 규정 위반 콘텐츠를 더 많이 적발했다고 밝힌 바 있다.

하지만 이번 사례는 새로운 단속 정책이 실제 플랫폼 전반에 일관되게 적용되기까지 여전히 상당한 과제가 남아 있음을 보여준다.

특히 메타로서는 자사 AI 안경으로 제작한 문제가 되는 콘텐츠가 자사 소셜미디어에서 확산한다는 점이 부담이다.

메타 AI 안경 판매량은 2025년 700만대를 넘어 전년의 세 배 이상으로 늘었다. 메타는 스마트글라스 시장의 초기 선두주자로 올라섰으며 마크 저커버그 CEO도 AI 안경을 회사의 핵심 AI 전략 가운데 하나로 내세우고 있다.

그러나 스마트글라스가 자신도 모르는 사이 촬영당할 수 있다는 불안을 키우고 일부 이용자의 괴롭힘성 콘텐츠 제작 수단으로 활용되면서 제품을 둘러싼 부정적인 인식도 확산하고 있다.

AI 안경 보급이 빨라질수록 이를 이용한 새로운 형태의 콘텐츠도 늘어날 가능성이 큰 만큼 메타가 기기 판매 확대와 사생활 보호, 플랫폼 콘텐츠 관리 사이의 충돌을 어떻게 해결할지가 새로운 과제로 떠오르고 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com