이미지 확대보기13일(현지시간) 뉴욕포스트에 따르면 마크 큐반은 최근 코미디언 존 스튜어트의 팟캐스트 방송에서 인공지능 플랫폼에서는 사실을 판단할 수 있는 기준이 없어 잘못된 정보가 유포될 수 있다고 우려했다.
최근 생성 AI 시스템이 무시할 수 없을 정도로 발전해 일부 기업가와 교육 지도자는 잘못된 정보의 확산과 지적 재산권 침해의 가능성에 우려를 표하고 있다. 생성AI는 인공지능을 통해 학습 데이터를 기반으로 텍스트, 이미지, 비디오까지 새로운 콘텐츠를 만들어내는 기술을 의미한다.
대화형 메신저인 챗GPT가 바로 생성 AI의 대표적인 예다. 챗GPT는 간단한 텍스트 프롬포트를 기반으로 단 몇 초 안에 사용자가 원하는 답변, 코딩 및 작곡까지 전달하는 인공지능 기반 언어 모델이다.
큐반은 방송에서 "누가 인공지능과 그 안의 정보를 통제하는가"라는 질문을 던졌다. "챗GPT나 이와 유사한 인공지능 플랫폼에서는 모든 것이 기계의 제어 하에 있어 우리로선 기계가 왜, 어떻게 이런 결정을 내렸는지, 누가 기계를 통제하는지 정의하기 어렵다"고 덧붙였다.
이러한 허위 정보의 유포는 AI 기술이 아직 초기 단계에 있음을 나타낸다. 큐반은 특히 인터넷에서 얻은 정보에 대해 사실 여부를 항상 확인하지 않는 많은 사람들에게 문제가 된다고 말했다.
마이크로소프트는 "때때로 발견한 정보를 잘못 표시할 수 있으며 그럴듯하게 들리지만 불완전하거나 부정확하거나 부적절한 답변을 볼 수 있다"고 챗GPT의 이면에 있는 기술이 완벽하지 않다는 사실을 인정했다. 그렇지만 최근 챗GPT를 탑재한 자사 검색엔진 빙(Bing)을 출시해 인기를 끌고 있다.
데이터 과학자인 카렌 하오는 AI 챗봇과 다른 생성 AI프로그램은 그들이 소비하는 데이터의 거울이라고 말했다.
하오는 "트렌스포머 기반 인공지능(Transformer-based AI)은 방대한 양의 데이터에 의존한다. 오류가 발생하면 개발자가 데이터에 포함된 내용을 파악하는 것이 거의 불가능해 예측과 제어가 특히 어렵다"고 전했다.
실제로 구글이 챗GPT에 대항해 출시한 AI 플랫폼 '바드'는 미국 항공우주국(NASA)의 제임스 웹 우주망원경에 대한 질문에 답하는 과정에서 오류가 발생해 주가가 9% 넘게 하락했다.
노훈주 글로벌이코노믹 기자 hunjuroh@g-enews.com
