생성AI 아동 성착취 포르노 문제에 빅테크 기업 10곳 협력한다

생성AI(인공지능)를 이용한 아동 성착취 포르노 문제가 전 세계적인 고민으로 떠오르고 있는 가운데 글로벌 빅테크 기업 10곳이 문제 해결을 위한 협력에 동의했다.
23일(현지시각) 외신에 따르면 미국 등 주요 IT 기업 10곳이 AI에 의한 아동 성관계 영상 생성 및 확산 방지를 위해 협력하기로 했다고 발표했다.

인터넷에서 아동 성적인 이미지를 생성하는 AI가 학습해 부적절한 이미지가 대량으로 생성될 수 있다는 우려에 대응하기 위해서다.

이 협력안에는 구글, 마이크로소프트, 오픈AI, 아마존닷컴, 메타, 스테이블리티 AI 등 10개사가 사인했다.
구체적으로 AI의 학습용 데이터에 아동 성적인 이미지가 포함되어 있는지 확인하고, 확인되면 삭제를 한다는 방침이다.

또 생성 AI 서비스 제공을 시작하기 전에 부적절한 이미지가 생성되지 않도록 하는 데도 합의했다. 부적절한 이미지 탐지 기술 개선에도 힘쓰고 정부와도 정보를 공유한다.

이번 협력안은 업계에서 생성 AI가 보급되면서 특정 아동을 닮은 성적인 이미지가 대량으로 생성되는 등 아동 인권이 침해될 수 있다는 우려가 제기된 데 따른 것이다.

이에 대해 미국 스탠퍼드대 연구팀은 지난해 12월 AI의 학습용 데이터에서 아동 성적인 이미지로 의심되는 데이터를 발견했다고 발표했다. 데이터 세트 이용 시 보통 불법적인 이미지를 배제하는 필터 기능이 있지만, 현재 기술로는 완전히 배제하기 어렵다고 보고 있다.

이용수 글로벌이코노믹 기자 piscrait@g-enews.com