[초점] 빅테크, 딥페이크 차단 경쟁...오픈AI, 선거에 챗GPT 사용 '원천 봉쇄'

올해 지구촌에서 사상 최대 규모의 전국 단위 선거가 치러진다. 올해 선거전에서는 특히 생성형 인공지능(AI)을 이용한 딥페이크(deepfake)의 폐해가 극에 달할 것을 우려하는 목소리가 커지고 있다. 챗GPT를 출시했던 오픈AI는 15일(현지 시간) 정치인이나 정당 등이 선거에 자사 AI 프로그램을 원천적으로 이용하지 못하도록 대책을 마련했다고 밝혔다. 오픈AI는 이날 블로그 포스트를 통해 챗GPT나 자사 이미지 생성 모델인 DALL-E를 활용해 선거 캠페인, 로비, 투표 차단, 가짜 뉴스 확산 등을 하지 못하도록 할 것이라고 강조했다.

선거 컨설팅업체 앵커체인지에 따르면 올해 전 세계적으로 최소 83개의 선거가 예정돼 있다. 유권자는 세계 인구의 절반인 40억 명을 넘을 것으로 추산됐다.

워싱턴포스트(WP)에 따르면 오픈AI는 DALL-E 프로그램을 이용한 딥페이크를 막기 위해 올해 초부터 이 프로그램으로 만들어진 이미지에는 워터마크가 자동으로 삽입되도록 할 것이라고 밝혔다. 오픈AI는 딥페이크 오도(誤導), 영향력 조작, 후보 위장 챗봇 등을 할 수 없도록 할 것이라고 강조했다. 딥페이크는 이미지, 목소리, 영상 등을 진짜처럼 합성하는 기술로 이것이 AI와 결합하면 진위를 구별하기가 더욱 어려워진다.
세계경제포럼(WEF·다보스포럼)은 ‘글로벌 위험보고서 2024’를 통해 올해 세계가 마주하는 최대 위험 요인으로 AI발 가짜 뉴스를 꼽았다. 챗GPT 등을 이용해 가공된 텍스트와 음성, 웹사이트 등을 만들어 여론을 호도할 수 있다.

인공지능이 생성한 작품에는 디지털 워터마크를 표시하는 방안이 활발히 논의되고 있다. ‘사본’ ‘샘플’ ‘인공지능 생성’ 등과 같은 문구를 텍스트나 이미지에 삽입함으로써 이용자들이 진위를 판가름할 수 있도록 하려는 것이다.

오픈AI에 앞서 다수의 빅테크 등이 딥페이크 방지 대책을 내놓았다. 구글은 지난해 11월에 생성형 AI를 사용해 제작하거나 합성한 선거 광고에 대해 AI 사용 사실을 눈에 띄게 표시하도록 의무화했다.
구글 딥마인드는 지난해 8월 AI 합성 이미지용 워터마크(신스ID)를 공개했다. 이는 AI 기반의 이미지 생성 프로그램으로 이미지에 맨눈으로 보이지 않는 워터마크를 픽셀 단위로 넣어서 해당 이미지가 실제가 아님을 식별할 수 있게 하는 도구다. 구글과 포토샵 업체 어도비는 AI를 이용한 이미지에는 반드시 워터마크를 넣도록 했다. 페이스북·인스타그램 모기업 메타는 올해부터 정치 광고 콘텐츠에 AI 사용 사실을 공개하도록 했다.

인텔은 딥페이크 탐지 프로그램 '페이크캐처'를 개발했다. 이는 사람 얼굴의 혈류 변화를 추적해 예상되는 얼굴색과 실제 영상을 비교해 가며 실시간으로 딥페이크 여부를 평가하는 기능이다.

오픈AI는 10일 'GPT스토어'를 열었다. GPT스토어는 애플 앱스토어, 구글 플레이스토어처럼 기업이나 개인이 챗GPT 기반으로 개발한 맞춤형 애플리케이션(앱)을 거래할 수 있는 플랫폼이다. 이용자는 GPT스토어에서 챗봇을 검색할 수 있다. GPT스토어는 오픈AI 추천 상품, 인기 상품, 글쓰기, DALL-E, 연구·분석, 교육, 프로그램 작성 등 카테고리로 구분돼 있다. 오픈AI는 2022년 11월 말 챗GPT를 내놓은 이후 대규모언어모델(LLM)을 기반으로 현재 300만 개가 넘는 맞춤형 앱이 개발됐다고 밝혔다.

국기연 글로벌이코노믹 워싱턴 특파원 kuk@g-enews.com