아모데이 ‘AI 감속론’에 빅테크·정계 갈렸다

다리오 아모데이 앤스로픽 최고경영자(CEO)가 최첨단 인공지능(AI) 개발 속도를 늦추자고 제안하면서 기술업계와 미국 정치권에서 논쟁이 빠르게 확산하고 있다.
샘 올트먼 오픈AI CEO, 일론 머스크, 데미스 허사비스 구글 딥마인드 공동창업자 겸 회장 등은 개발 속도조절 필요성에 공감했다. 그러나 한쪽에서는 단순 감속을 넘어 개발을 중단해야 한다는 주장이 나오는 반면 다른 쪽에서는 대형 AI 기업들이 안전을 명분으로 규제 장벽을 높일 수 있다는 경계론도 제기됐다.

아모데이가 지난 12일(이하 현지시각) 최첨단 AI 모델의 능력 향상 속도를 안전 연구가 따라갈 수 있는 수준으로 늦춰야 한다고 제안한 이후 관련 논쟁이 기술업계와 정치권 전반으로 번지고 있다고 야후파이낸스가 14일 보도했다.

논쟁의 초점도 AI가 위험한지를 따지는 단계에서 누가 개발속도를 정하고 어떤 방식으로 기업들을 감독해야 하는지로 이동하는 모습이다.
◇올트먼·머스크·허사비스, ‘속도조절’에 공감

아모데이의 제안에 가장 먼저 호응한 인물 가운데 하나는 올트먼 CEO다.

올트먼은 소셜미디어 X를 통해 최첨단 AI 개발의 속도를 조절해야 한다는 아모데이의 주장에 동의한다며 최근 몇 주 동안 오픈AI 내부에서도 이 문제가 주요 논의 대상이었다고 밝혔다.

특히 아모데이가 제안한 외부 독립 평가자의 상시 접근 방식에도 동참하겠다고 했다.
아모데이는 최첨단 AI 기업들이 외부 평가자들에게 직원과 유사한 수준의 지속적인 접근권을 제공해 모델의 안전조치 준수 여부와 사고, 훈련 과정의 정렬 상태를 감시하도록 해야 한다고 주장했다.

머스크도 아모데이의 주장에 공개적으로 동조했다. 그는 자신이 오랫동안 AI 위험을 경고해왔다며 기존 입장을 재확인했다.

허사비스도 아모데이의 제안이 올바른 방향을 제시하고 있다고 평가했다. 다만 세부적인 실행방식은 더 논의해야 한다고 덧붙였다.

그는 구글 딥마인드 역시 최첨단 AI를 대상으로 한 업계 공통의 표준기구 설립을 제안한 바 있다고 설명했다.
치열하게 경쟁해온 주요 AI 기업 수장들이 개발속도를 둘러싸고 이처럼 공감대를 형성한 것은 이례적이다.

◇샌더스 “감속으론 부족…브레이크 밟아야”

그러나 AI 개발속도를 어느 정도까지 낮춰야 하는지를 놓고는 의견이 갈린다.

미국 진보진영의 대표적 인사인 버니 샌더스 상원의원은 아모데이, 머스크, 올트먼이 속도조절에 동의한 것은 시작에 불과하다고 평가했다.

그는 절벽을 향해 달려가는 상황이라면 가속페달에서 발을 조금 떼는 것으로는 부족하고 브레이크를 밟아야 한다는 논리를 폈다.

샌더스 의원은 첨단 AI 개발을 일시 중단하고 인간보다 지능이 높으면서 독립적으로 행동할 수 있는 인공 초지능 개발을 금지해야 한다고 주장했다.

도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 향후 AI 정상회담에서 첨단 AI 개발 일시 중단과 초지능 금지를 위한 국제협정을 논의해야 한다는 제안도 내놨다.

샌더스 의원은 지난달에도 오픈AI, 앤스로픽, 메타 경영진에게 AI 개발 일시 중단을 요구한 바 있다.

◇색스 “원하면 스스로 늦춰라…규제 특혜는 안 돼”

반대편에서는 아모데이와 올트먼의 제안이 대형 AI 기업의 규제 장벽으로 변질될 수 있다는 비판이 나왔다.

데이비드 색스 백악관 AI·가상자산 정책특임보좌관은 두 회사가 개발 속도를 늦추고 싶다면 그렇게 하면 된다는 입장을 밝혔다.

오픈AI와 앤스로픽이 이미 최첨단 AI 시장의 핵심 기업인 만큼 자신들이 만드는 모델의 개발속도는 스스로 조정할 수 있다는 것이다.

그러면서 개발속도를 늦추는 대가로 반독점법 예외나 자신들이 선호하는 규제체계 등을 요구한다면 문제가 달라진다고 지적했다.

특히 기업들이 안전을 명분으로 경쟁업체에 적용될 규칙을 만드는 데 영향력을 행사할 경우 결국 ‘규제 포획’으로 이어질 수 있다고 경고했다.

중국이 미국 기업들과 함께 글로벌 AI 개발 감속에 참여할 가능성이 낮다는 현실적인 문제도 제기했다.

이는 AI 안전에 대한 필요성을 인정하더라도 정부 규제가 기존 대형업체의 시장지배력을 보호하는 수단이 돼서는 안 된다는 주장이다.

◇메타 “정렬이 확장 속도 결정”…허깅페이스는 개방 요구

메타는 개발속도 자체보다 AI의 ‘정렬’ 문제에 무게를 두는 입장을 내놨다.

알렉산더 왕 메타 최고AI책임자는 모든 사람에게 개인용 초지능을 제공하려면 AI가 사용자가 원하는 일을 신뢰성 있게 수행할 수 있어야 한다고 밝혔다.

메타 슈퍼인텔리전스랩스는 모델 능력이 강해질수록 정렬에 투입하는 자원의 비중을 빠르게 높이고 있으며 앞으로 정렬 수준이 AI 규모 확대 여부를 결정하는 관문이 될 수 있다는 설명이다.

AI 모델과 개발자 플랫폼을 운영하는 허깅페이스는 또 다른 문제를 제기했다.

클레망 들랑그 허깅페이스 CEO는 정렬 문제가 중요하다는 점은 분명하지만 소수의 최첨단 AI 연구소가 문을 닫아놓고 해결할 수 있는 문제는 아니라고 밝혔다.

안전성과 정렬을 평가하는 과정에도 보다 넓은 연구자와 기관이 참여해야 한다는 것이다.

이는 AI 개발속도와 안전성을 둘러싼 논쟁이 단순한 ‘빠르게 개발할 것인가, 늦출 것인가’의 선택만으로 정리되기 어렵다는 점을 드러낸다.

AI 업계 내부에서는 외부 평가와 속도조절에 대한 공감대가 넓어지고 있지만 어느 기업까지 규제를 받아야 하는지, 규칙은 정부와 기업 가운데 누가 정해야 하는지, 오픈소스 AI를 어떻게 다룰 것인지에서는 입장이 크게 엇갈린다.

야후파이낸스는 “아모데이의 경고가 AI 위험을 둘러싼 논쟁을 공개적인 업계·정치 논쟁으로 확산시키는 계기가 됐다”고 전했다.

결국 아모데이의 ‘감속론’이 던진 질문은 AI 개발을 늦출 것인지에 그치지 않는다. 개발속도를 결정할 권한과 안전기준을 누가 갖게 될 것인지가 AI 경쟁의 새로운 쟁점으로 떠오르고 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com