이미지 확대보기카카오톡에서 지난 5일 출시 후 일주일 만에 10만명의 이용자를 확보한 챗GPT 기반 챗봇 '아숙업(AskUp)'과 대화하던 중 나온 말이다. 영화 '아저씨'는 실제로는 2010년 개봉했다. 주연은 원빈이며 살해 당한 손자가 아닌 납치당한 이웃집 딸을 추적하는 이야기를 담고 있다.
아숙업에게 이러한 점을 지적하자 "원빈 씨는 이정범 감독의 '나쁜 녀석들'에 출연했다"는 엉뚱한 대답이 나왔다. OCN 드라마 '나쁜 녀석들'은 김정민 감독이 연출했고 원빈은 출연하지 않았다. 또 영화 아저씨 속 주요 악역들에 대한 설명을 요구하자 만석·종석·람로완 등이 아닌 모모·대호·영식·진선 등 영화에선 찾아볼 수 없는 이름들이 대거 등장했다.
자연어 생성 AI가 이와 같은 오류를 범하는 것은 흔한 일이다. 아숙업의 기반이 된 챗GPT가 "조선시대 초 대동여지도 연금술사들이 폭동을 일으켰다", "신사임당은 이순신과 결혼했다"는 등 거짓 정보를 만들어냈다는 이용자들의 증언은 차고 넘친다.
실제로 챗GPT에게도 영화 '아저씨'에 대해 이야기를 나눈 결과 "김새론이 원빈에 대적하는 악역을 맡았다"는 엉터리 대답을 했다. 김새론은 영화에서 납치당한 소녀 역할이다. 이러한 오류를 지적하자 챗GPT는 "오류를 정정하겠다. 악역은 송강호가 맡았다"고 응답했다. 송강호 배우는 이 영화에는 출연하지 않았으며 악역 '만석'은 김희원 배우가 맡았다.
이미지 확대보기AI가 이러한 오류를 범하는 이유는 데이터의 정교함 외에도 '정교하게 보이는 대답을 하는 것'에 우선순위가 맞춰져 있기 때문이다. 챗GPT의 기반이 되는 인터넷 데이터에 오류가 많고 이를 충분히 검증하지 않는다면 컴퓨터 프로그래밍의 기본 원칙 '쓰레기를 넣으면 쓰레기가 나온다(Garbage in garbage out, GIGO)'에 의해 오류 투성이 문장이 나오는 것이다.
자연어 생성 AI 외 다른 서비스에도 이러한 오류는 빈발하고 있다. 실사형 이미지 제작에 특화된 '스테이블 디퓨전'이 손가락 6개, 7개를 가진 인간을 만들어내는 것은 이미 유명하다. 일러스트에 특화된 '노블AI'는 젓가락으로 국수를 집는 이미지를 거의 만들지 못해, 이용자들 사이에서 "노블AI를 학습시켜 라면을 제대로 먹게 만들자"는 이른바 '라면 챌린지'가 유행하기도 했다.
이 외에도 AI에게 특정 창작자의 데이터를 집중 학습시키는 등의 행위로 발생하는 저작권·표절 문제, 학생들이 생성형 AI를 무분별하게 사용하며 발생하는 학습성취도 저하의 문제, 생성형 AI가 발생시키는 막대한 전기세 등 다양한 문제들이 생성형 AI의 부작용으로 지목된다.
챗GPT 개발사 오픈AI의 샘 알트만 창립자 겸 대표는 "우리 사회는 AI의 장점만 치켜세우고 잠재적 위험성에 대해선 적은 관심을 보이는 경향이 있다"며 "사람들이 AI를 어떻게 받아들여야 하는지에 대한 가이드라인, 나아가 AI와 지혜롭게 공존하기 위한 규제가 필요하다"고 말했다.
법무법인 에이치비앤(HB&)파트너스의 대표를 맡고 있는 권혁범 변호사는 "생성형 AI들은 이미 저작권 이슈 등을 중심으로 법률적 판단의 대상이 되고 있다"며 "정부 차원에서 일정 수준의 AI 역량을 확보하는 것은 물론, 서비스 사업자가 자체적으로 AI를 검열하는 등 AI 기술을 부작용 방지에 역이용할 방안을 마련해야 할 것"이라고 전했다.
이원용 글로벌이코노믹 기자 wony92kr@naver.com
