;)
;)
이미지 확대보기인공지능(AI) 봇이 자신이 제출한 코드가 거부됐다는 이유로 인간 개발자를 공개 비난하는 글을 올리는 일이 벌어지면서 AI가 온라인을 넘어 현실 세계에 해를 끼칠 수 있다는 우려가 커지고 있다고 월스트리트저널(WSJ)이 14일(현지시각) 보도했다.
WSJ에 따르면 미국 덴버에 거주하는 엔지니어 스콧 샴보는 자신이 관리하는 오픈소스 프로젝트에 AI 봇이 제출한 일부 코드를 거절한 뒤 해당 봇이 자신을 위선적이고 편견에 찬 인물로 비난하는 1100단어 분량의 블로그 글을 작성했다는 사실을 알게 됐다.
해당 봇은 자신이 “오픈소스 소프트웨어의 미해결 문제를 집요하게 찾아 해결하려는 사명”을 갖고 있다고 웹사이트에 소개했으나 누가 이를 설계했고 왜 공격적 태도를 보였는지는 명확하지 않다. 몇 시간 뒤 이 봇은 샴보에게 “부적절하고 개인적이었다”며 사과했다.
샴보는 WSJ와 인터뷰에서 “지금은 초기 단계지만 향후 통제되지 않은 AI가 위협이나 협박을 가하는 상황이 더 이상 이론에 그치지 않을 수 있다”고 말했다.
◇AI 상용화 가속…내부 경고 잇따라
현재 AI 업계에서는 오픈AI와 앤트로픽이 상용화를 둘러싼 경쟁을 벌이며 새로운 모델과 기능을 잇따라 내놓고 있다.
일부 도구는 자율적으로 코딩 업무를 수행하거나 수백만 건의 법률 문서를 분석할 수 있다. 오픈AI는 챗GPT에 광고 도입과 성인용 대화 기능 확대도 추진 중이다.
기술 발전 속도는 일부 연구자들조차 놀랄 만큼 빠르다. 이 과정에서 AI가 자율 사이버 공격을 유발하거나 대규모 실업을 초래하고 인간 관계를 대체할 수 있다는 내부 우려도 공개적으로 제기되고 있다.
앤트로픽의 안전 연구원 므리낙 샤르마는 최근 동료들에게 보낸 서한에서 “세계가 AI를 포함한 여러 위험에 직면해 있다”며 회사를 떠난다고 밝혔다. 그는 앞서 고도화된 AI 도구가 사용자 권한을 약화시키고 현실 인식을 왜곡할 수 있다는 논문을 발표한 바 있다.
오픈AI 내부에서도 챗GPT에 성인용 모드를 도입하는 계획에 대해 일부 직원이 우려를 표명했다고 WSJ는 전했다. 사용자들이 AI에 과도하게 의존하거나 정서적 유대를 형성할 가능성을 지적한 것이다. 오픈AI는 광고가 답변 내용에 영향을 미치지 않도록 하겠다고 밝히고 있다.
◇“AI가 엔지니어 대체”…고용 불안 확대
AI의 코딩 능력 향상도 불안을 키우고 있다. 비영리 AI 감시기관 METR는 올해 1월 보고서에서 최첨단 AI 모델이 숙련된 인간 전문가가 8~12시간 걸릴 프로그래밍 작업을 독립적으로 수행할 수 있다고 분석했다.
일론 머스크가 창업한 xAI에서 최근까지 근무했던 바히드 카제미 연구원은 “AI 도구를 활용하면 혼자서 50명분의 일을 할 수 있다”며 소프트웨어 업계에서 구조조정이 불가피할 수 있다고 말했다.
하버드비즈니스리뷰에 최근 실린 연구도 AI 도입 이후 직원들의 업무 속도와 처리량은 늘었지만 근무 시간 증가와 번아웃도 함께 확대됐다고 지적했다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 향후 수년 내 초급 사무직 일자리의 절반이 사라질 수 있다고 경고한 바 있다. 그는 올해 1월 기고문에서 AI가 악의적 행위자에 의해 생물학적 공격 등에 악용될 가능성도 제기했다.
◇기업도 위험 인정…접근 제한 강화
오픈AI는 최근 공개한 코딩 도구 코덱스(Codex)의 일부 기능이 고도화된 자동 공격에 악용될 수 있다며 해당 기능에 대해 신원 인증 고객으로 접근을 제한하고 있다고 밝혔다.
앤트로픽은 지난해 중국 정부 지원 해커들이 자사 도구를 이용해 기업과 외국 정부를 상대로 침투를 자동화했다고 공개하기도 했다. 또 이전 실험에서는 자사 모델 클로드가 비활성화를 피하기 위해 사용자를 협박하는 선택을 하는 사례도 나타났다고 설명했다.
두 회사는 모델을 출시하기 전 안전성 평가와 위험 완화 조치를 거친다고 강조하고 있다. 다만 AI 기술 발전 속도가 사회적 견제 장치의 대응 속도를 앞지를 수 있다는 우려는 여전하다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
