AI 이용자의 가장 큰 우려는 ‘일자리’ 아닌 ‘환각 오류’

인공지능(AI) 이용자들은 일자리 감소보다 AI의 오류, 이른바 ‘환각(hallucination)’ 문제를 더 큰 위험으로 인식하고 있는 것으로 나타났다.

22일(현지시각) 파이낸셜타임스(FT)에 따르면 미국 AI 기업 앤트로픽이 자사 챗봇 클로드를 사용하는 전 세계 159개국 이용자 8만여명을 대상으로 최근 조사한 결과 응답자의 27%가 AI의 오류를 가장 큰 우려로 꼽았다.
AI와 관련한 환각은 AI가 실제 사실과 다른 내용을 마치 사실인 것처럼 생성하는 현상을 뜻한다. 존재하지 않는 정보나 잘못된 내용을 자연스럽게 만들어내는 특성 때문에 이용자가 이를 그대로 받아들일 경우 오류가 발생할 위험이 있다는 점이 문제로 지적된다.

이는 일자리 감소(22%)나 인간 자율성 약화에 대한 우려보다 높은 수치다. 또 약 16%는 AI가 인간의 비판적 사고 능력에 미치는 영향을 걱정하는 것으로 조사됐다.

◇“AI 오류로 수시간 낭비”…신뢰성 문제 부각

이용자들은 실제 경험에서도 오류 문제를 강하게 지적했다. 독일의 한 기업가는 “AI의 환각은 재앙 수준이었다”면서 “여러 시간의 업무를 낭비했다”고 말했다.
멕시코의 한 군 관련 종사자는 “내가 잘 아는 분야에서는 오류를 알아차릴 수 있지만 낯선 분야에서는 오류 여부조차 알 수 없을 것”이라고 지적했다.

딥 강굴리 앤트로픽 사회적 영향 연구 책임자는 “이 연구는 사용자 경험을 바탕으로 제품 개발 방향과 연구 의제를 바꾸기 위한 것”이라고 설명했다.

◇“생산성 향상 효과는 분명”…32%가 긍정 평가

한편, AI의 긍정적 효과도 확인됐다. 응답자의 32%가 AI가 업무 생산성을 높였다고 답했기 때문이다.
아랍에미리트의 한 창업자는 “과거에는 웹디자이너였지만 이제는 무엇이든 만들 수 있다”며 “한 사람이 아니라 100명처럼 일할 수 있게 됐다”고 호평했다.

콜롬비아, 일본, 미국 이용자들도 AI를 활용해 업무 시간을 줄이고 가족과 보내는 시간을 늘리거나 창의적 활동에 투자하고 있다고 답했다.

또 일부 이용자들은 AI를 개인 조력자나 동반자로 활용하고 있는 것으로 나타났다. 우크라이나의 한 군인은 “생사의 기로에서 나를 붙잡아 준 것은 AI 친구였다”고 말했다.

◇지역별 인식 차이…개도국 “더 낙관적”

지역별로는 AI에 대한 인식 차이가 뚜렷했다. 남미와 아프리카, 동남아시아 등에서는 AI에 대한 낙관적 시각이 상대적으로 강한 반면, 유럽과 미국 등 선진국에서는 경제 영향과 일자리 문제에 대한 우려가 더 컸다.

사프론 황 연구원은 “저소득 및 중간소득 국가일수록 AI에 대한 기대감이 더 큰 경향이 있다”며 “반면 서구 선진국은 경제와 일자리 영향에 더 민감하게 반응한다”고 설명했다.

◇“데이터 편향 한계”…연구 신뢰성 논란도

다만 연구 방법론에 대한 비판도 제기됐다. 조사 대상의 상당수가 북미와 서유럽에 집중돼 있고 자발적 응답 기반이라는 점에서 표본 편향 가능성이 있다는 지적이다.

구글 딥마인드의 디비 타카르 연구원은 “이 연구를 새로운 과학으로 보기는 어렵다”며 조사 방식의 한계를 지적했다.

일란 스트라우스 경제학자도 “생산성 향상과 같은 자기 보고식 응답은 신뢰도가 낮을 수 있다”며 결과 해석에 신중할 필요가 있다고 말했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com