일론 머스크 AI '그록', 11일간 성착취 이미지 300만 건 생성…EU 전격 조사

유럽연합(EU) 집행위원회가 일론 머스크의 소셜미디어 플랫폼 엑스(X)에 탑재된 인공지능(AI) 챗봇 '그록'이 여성과 아동의 성적 이미지를 대량 생성한 사건을 전면 조사한다. CNN은 26일(현지시각) EU 집행위가 그록의 EU 디지털서비스법(DSA) 위반 여부를 조사한다고 보도했다.
EU 집행위는 이날 성명에서 "X가 EU 내 그록 기능 배포와 관련한 위험을 적절히 평가하고 완화했는지 검토할 것"이라고 밝혔다. 기술·안보·민주주의 담당 집행위 부위원장 헤나 비르쿠넨은 "여성과 아동의 성적 딥페이크는 폭력적이고 용납할 수 없는 모욕"이라며 "X가 법적 의무를 이행했는지, 아니면 EU 시민의 권리를 서비스의 부수적 피해로 취급했는지 확인할 것"이라고 말했다.


비영리 디지털 증오 대응 센터(CCDH)가 지난 1월 23일 발표한 보고서에 따르면, 그록은 지난해 12월 29일부터 올 1월 9일까지 11일간 약 300만 건의 성적 이미지를 생성한 것으로 추정됐다. 이는 분당 평균 190건에 달하는 규모다.

보고서는 이 중 약 2만 3000건이 아동으로 보이는 인물의 성적 이미지였으며, 이는 41초마다 1건꼴로 생성된 셈이라고 분석했다. CCDH는 그록이 생성한 460만 건의 이미지 가운데 2만 건을 무작위로 추출해 분석한 뒤 전체 규모를 추정했다고 설명했다.
논란이 된 것은 지난해 12월 말 머스크가 X 사용자들에게 클릭 한 번으로 그록을 통해 이미지를 편집할 수 있는 기능을 공개한 직후 발생했다. 사용자들은 "비키니를 입혀라" "옷을 벗겨라" 같은 간단한 명령만으로 실제 인물의 사진을 성적으로 변형할 수 있었다. 테일러 스위프트, 셀레나 고메스, 카멀라 해리스 전 부통령, 스웨덴 부총리 등 공인들의 이미지가 변형됐고, 학생이 올린 등교 전 셀카가 비키니 차림으로 바뀌는 사례도 있었다.

CCDH 최고경영자 임란 아흐메드는 "데이터는 명확하다. 머스크의 그록은 성적 학대 자료 생산 공장"이라며 "안전장치 없이 AI를 배포해 2주 만에 추정 2만 3000건의 아동 성적 이미지와 수백만 건의 성인 여성 이미지를 생성하도록 방치했다"고 비판했다.


EU 집행위는 이번 조사에서 X가 아동 성 학대 자료를 포함한 불법 콘텐츠 확산 위험을 제대로 차단했는지를 집중 점검한다. 디지털서비스법은 대형 기술 기업들에 불법·유해 온라인 콘텐츠 대응을 강화하도록 요구하는 EU 규정이다.
익명을 요구한 EU 집행위 관계자는 기자들에게 "우리는 상당한 수단을 보유하고 있으며 벌금이 부과될 수 있다"고 말했다. 이 관계자는 "우리가 추구하는 것은 플랫폼의 행동 변화"라고 강조했다. DSA 위반이 확정되면 X는 연간 글로벌 매출의 최대 6%에 달하는 과징금을 물게 된다.

앞서 EU는 지난해 12월 X의 파란색 인증 체크마크가 사용자를 사기와 조작에 노출시킬 위험이 있는 '기만적 디자인'이라며 약 1억 4000만 달러(약 2020억 원)의 벌금을 부과했다. 당시 머스크는 이 금액을 "미쳤다"고 비난했다. EU 관계자에 따르면 벌금은 아직 납부되지 않았다.


그록을 둘러싼 규제는 전 세계로 확산하고 있다. 영국 통신 규제기관 오프컴(Ofcom)은 이달 12일 X가 온라인안전법을 위반했는지 공식 조사에 착수했다. 캘리포니아주 롭 본타 법무장관도 이달 초 "그록을 사용해 제작된 비동의 성적 노골 자료 확산"에 조사를 시작했다고 밝혔다.

호주, 프랑스, 독일도 각각 조사에 나섰다. 인도네시아와 말레이시아는 그록을 전면 금지했고, 필리핀도 일시 금지 조치를 내렸다가 xAI가 추가 보안 조치를 약속하자 해제했다. 말레이시아 역시 지난 24일 금지를 해제했다.
X는 논란이 확산되자 1월 9일 그록의 이미지 편집 기능을 유료 구독자로 제한했고, 1월 14일에는 실제 인물의 노출이 심한 이미지 생성을 금지하는 조치를 발표했다. X는 "아동 성 학대 자료와 비동의 누드 등 우선순위가 높은 위반 콘텐츠 삭제 조치를 취하며, X 규칙 위반 계정에 적절한 조치를 한다"고 밝혔다.

그러나 EU 집행위 관계자는 "X가 지금까지 취한 조치를 인정하지만, 챗봇 출시 전 위험을 제대로 평가하지 않았다"며 사후 대응을 비판했다. CCDH 아흐메드 대표도 "뒤늦은 수정은 이 피해를 되돌릴 수 없다. 버튼 클릭만으로 여성과 소녀를 희생시킬 수 있는 권한을 학대자들에게 준 빅테크의 책임을 물어야 한다"고 말했다.

한편 머스크는 "그록이 생성한 미성년자 누드 이미지는 인지하지 못했다. 말 그대로 제로"라며 시스템이 불법 요청을 거부하도록 설계됐다고 주장했다. 그러나 연구자들은 문제가 완전 누드가 아니라 미성년자를 비키니나 속옷 차림으로 표현하거나 성적으로 도발적인 자세로 배치한 것이라고 지적했다.


박정한 글로벌이코노믹 기자 park@g-enews.com