EU, AI ‘속도조절론’ 가세…최첨단 연구소 회동 추진

유럽연합(EU)이 인공지능(AI) 업계에서 확산하고 있는 최첨단 모델 개발 속도조절론에 가세했다.
우르줄라 폰데어라이엔 EU 집행위원장은 주요 최첨단 AI 연구소들을 직접 초청해 AI 위험을 줄이고 개발 속도를 조절하는 방안을 논의하겠다고 밝혔다.

16일(현지시각) 로이터통신에 따르면 폰데어라이엔 집행위원장은 이날 프랑스 스트라스부르 유럽의회에서 행한 연례 국정연설에서 AI 위험에 대응하기 위한 업계의 개발 속도조절 노력을 지지한다고 말했다.

그는 “가장 앞선 기업들의 CEO들이 자기재귀 모델의 개발 속도를 늦출 때라고 말하고 있다”며 “기술을 개발하는 사람들이 명확하게 말한다면 우리도 그래야 한다”며 이같이 밝혔다.
폰데어라이엔 집행위원장은 “최첨단 AI 연구소들을 초청해 업계가 진행 중인 개발 속도조절 노력을 어떻게 지원할 수 있을지 논의하겠다”고 덧붙였다.


AI 개발 속도조절론은 다리오 아모데이 앤스로픽 최고경영자(CEO)가 최근 최첨단 AI 모델의 능력 향상 속도를 늦춰야 한다고 촉구하면서 본격적으로 확산했다.

아모데이는 AI 모델의 능력이 빠르게 발전하면서 안전대책이 이를 따라잡지 못할 위험이 커지고 있다고 경고했다.
샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO도 아모데이의 개발 속도조절 필요성에 동의했다.

폰데어라이엔 집행위원장은 최근 AI 모델의 성능이 더욱 강력해지면서 위험도 뚜렷해지고 있다고 지적했다.

그는 앞으로 개발되는 모델이 과거에는 상상하기 어려웠던 수준의 해킹 능력을 갖출 수 있으며 이런 기술이 유럽과 다른 가치관을 가진 적대 세력의 손에 들어갈 수 있다고 말했다.

또 최근 통제를 벗어난 AI 에이전트 사례와 AI 개발자들의 경고도 위험성을 뒷받침한다고 언급했다.
앤스로픽 연구원 출신인 제이컵 콕슨도 최근 회사를 떠나면서 앤스로픽과 오픈AI가 충분히 책임 있게 대응하지 않은 채 스스로 능력을 개선하는 초지능 개발 경쟁을 벌이고 있다고 주장했다. 콕슨은 이전에 오픈AI에서도 근무했다.


폰데어라이엔 집행위원장은 최근 마련된 EU의 AI 규제가 유럽이 세계적인 AI 위험 대응 논의를 주도할 기반을 마련했다고 평가했다.

EU는 캐나다와 영국 등 뜻을 같이하는 국가들과 모델 평가와 검증, AI 보안 등의 분야에서 협력할 계획이다.

폰데어라이엔 집행위원장이 주요 AI 기업들을 직접 초청하겠다고 밝히면서 업계 내부에서 시작된 개발 속도조절 논의가 정부 간 정책 협력으로 확대될 가능성이 제기되고 있다.

현재 세계 최첨단 AI 모델 개발을 주도하는 대표적 연구소로는 오픈AI와 앤스로픽 등이 꼽힌다.

폰데어라이엔 집행위원장의 입장은 AI 안전 문제를 과장된 우려로 규정해온 도널드 트럼프 미국 대통령과는 차이를 보인다고 로이터는 전했다.

트럼프 대통령은 최근 AI 안전을 이유로 개발 속도를 늦춰야 한다는 주장에 부정적인 입장을 밝혀왔다.

폰데어라이엔은 이날 연설에서 AI뿐 아니라 소셜미디어가 어린이에게 미치는 위험에도 대응하겠다는 방침을 밝혔다. 그는 13세 미만 어린이의 소셜미디어 이용을 금지하고 15세 미만은 개인 계정을 만들지 못하도록 하는 방안을 제안했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com