AI ‘멸망 공포’, 美 일상 파고들었다…식탁·교회·기업까지

인공지능(AI)이 인류를 파멸시킬 수 있다는 우려가 미국 실리콘밸리와 온라인 커뮤니티를 넘어 일반인들의 일상으로 빠르게 확산하고 있다.
앤스로픽을 떠난 연구원 제이컵 콕슨이 AI 시스템이 인류 문명을 파괴할 가능성을 공개적으로 경고한 이후 관련 논쟁이 가족 식탁과 교회, 직장, 친구들의 단체대화방까지 번지고 있다.

월스트리트저널(WSJ)은 AI의 실존적 위험을 둘러싼 논쟁이 이번 주를 기점으로 미국 주류사회로 넘어오는 전환점을 맞았다고 12일(이하 현지시각) 보도했다.

미국 뉴저지주의 민주당 연방하원의원인 조시 고트하이머는 지난 10일 딸의 필드하키 경기를 지켜보던 중 다른 학부모 2명으로부터 AI가 도대체 어떻게 되고 있는 것이냐는 질문을 받았다.
마이크로소프트 임원 출신으로 미 하원 AI위원회 공동위원장을 맡고 있는 고트하이머 의원은 이번 주 일반 시민과 의원들로부터 AI 위험과 관련한 문의를 반복적으로 받았다고 밝혔다.

그는 콕슨의 경고를 계기로 사람들이 AI 안전 규칙의 필요성을 본격적으로 느끼기 시작했다고 평가했다.


콕슨은 지난 8일 AI 기업들이 인간의 통제를 벗어날 수 있는 자기개선형 시스템 개발을 서두르고 있다며 앤스로픽을 떠났다.

그의 경고와 앤스로픽 동료 연구자의 관련 게시물은 수억회의 조회수를 기록했다.
WSJ는 “그동안 인터넷과 실리콘밸리 내부에서 주로 논의되던 AI의 실존적 위험이 이번 주에는 성경 공부 모임과 가족 식탁, 친구들의 단체대화방 등 미국 사회 전반으로 확산했다”고 전했다.

AI에 대한 반감은 이미 수개월 전부터 쌓여왔다.

미국 전역에 설치된 플록세이프티의 AI 감시카메라에 대한 반발이 여름부터 커졌고 오픈AI 모델이 허깅페이스 시스템을 자율적으로 해킹한 사실이 알려지면서 우려가 확대됐다.

AI 데이터센터 건설에 대한 반대와 대규모 일자리 감소 가능성도 배경에 자리 잡고 있다.
이런 상황에서 콕슨을 비롯한 앤스로픽 내부 인사들이 AI가 인간에게 치명적인 위험을 줄 수 있다고 공개적으로 말하면서 그동안 잠재돼 있던 불안이 한꺼번에 표면화됐다는 것이 WSJ의 분석이다.

미국 공중파 심야방송 진행자로 유명한 지미 키멀도 방송에서 왜 사람들이 이 문제를 더 심각하게 받아들이지 않는지 의문을 제기했다.

배우 맷 데이먼, 싱어송라이터 매기 로저스, 가수 셰릴 크로 등 유명 인사들도 AI 위험 논쟁에 가세했다.

AI의 실존적 위험을 설명하는 위키피디아 페이지 조회수는 평소보다 10배 이상 급증해 사상 최고치를 기록했다.

초인공지능의 위험을 경고해온 AI 연구자 네이트 소어스는 자신의 관련 저서가 9일 하루 동안 평소 일주일 판매량보다 더 많이 팔렸다고 밝혔다.

그는 자신이 오랫동안 같은 메시지를 전달해왔지만 이번에 처음으로 대중적 관심의 경계를 넘어섰다고 평가했다.


AI 위험에 대한 관심은 종교계와 일상적인 인간관계로도 번지고 있다.

영화감독 대니얼 로어는 지난 3월 AI 위험을 다룬 다큐멘터리를 공개했지만 당시 반응은 기대보다 크지 않았다고 말했다.

그러나 이번 주 들어 친구와 가족들로부터 AI 위험을 어떻게 봐야 하느냐는 연락이 늘었다.

마이애미의 한 교회에서는 9일 성경 공부 모임에서 AI에 관한 질문이 잇따랐다.

디트로이트의 정신건강 상담사 패트리스 루커스는 CNN에 출연한 콕슨의 인터뷰를 본 뒤 친구 단체대화방에 영상을 공유했다.

일부는 그의 우려에 동의했지만 다른 이들은 여전히 AI 위험을 과장된 문제로 받아들였다고 WSJ는 전했다.

다만 WSJ는 “AI가 인류 멸종으로 이어질 것이라는 견해가 AI 업계 전문가 사이에서도 주류 의견은 아니다”고 지적했다.

AI가 인류를 파괴할 능력을 갖출 수 있다고 보는 전문가 중에서도 실제 발생 가능성을 낮게 평가하거나 적절한 대응으로 막을 수 있다고 보는 이들이 적지 않다.

앤스로픽과 오픈AI도 AI 안전 문제를 심각하게 다루고 있으며 정부 규제를 요구하는 입장이라고 밝혀왔다.


AI에 대한 불안은 기업의 AI 도입에도 영향을 줄 수 있다는 우려로 이어지고 있다.

컨설팅업체 섹션의 AI 책임자 마이클 도매닉은 기업 경영진들이 직원들의 AI 공포가 내부 AI 도입에 어떤 영향을 미칠지 고민하기 시작했다고 말했다.

퓨리서치센터에 따르면 올해 초 기준 미국 성인의 약 절반이 챗봇을 사용해본 경험이 있다. 이는 2024년보다 약 50% 증가한 수준이다.

의료기기 제조업체용 규제준수 자동화 소프트웨어를 판매하는 케트릭스의 에레즈 카민스키 최고경영자(CEO)는 이번 주 고객의 약 절반이 통화 과정에서 AI에 대한 불안을 언급했다고 밝혔다.

의료 분야에서는 AI 오류로 잘못된 약물이 투여되거나 중앙 데이터베이스가 해킹될 가능성이 있다는 우려가 제기됐다.

케트릭스는 10일 매사추세츠주 케임브리지에서 열린 직원 만찬에서 모든 위험관리 시스템을 재점검하기로 했다.

사이버보안기업 퀘스트소프트웨어의 라케시 샤 제품담당 부사장도 “앤스로픽 연구자들의 경고와 허깅페이스 해킹 사건 이후 고객들의 태도가 달라졌다”고 말했다.

과거에는 자신들이 공격 대상이 되지 않거나 해커의 침입이 실패할 것이라고 가정했다면 이제는 실제 해킹을 당한다는 전제 아래 대응을 준비한다는 것이다.

샤 부사장은 80대인 자신의 부모까지 최근 AI 보안 위험을 물었고 10대 자녀들은 저녁 식탁에서 영화 ‘매트릭스’ 같은 세계가 현실화하는 것 아니냐고 질문했다고 전했다.

그는 AI 문제가 식탁의 화제가 되는 순간 기업 이사회에서도 주요 의제가 될 수밖에 없다고 평가했다.


AI 공포 확산은 그동안 관련 위험을 경고해온 AI 안전 연구진에 대한 관심도 끌어올렸다.

AI 안전 비영리단체 팰리세이드리서치의 제프리 래디시 대표는 9일과 10일 이례적으로 개인 기부가 잇따랐으며 이 가운데 한 건은 4만달러(약 5375만원)에 달했다고 밝혔다.

그는 바쁜 일정을 소화하던 중 과거 연인으로부터 자신이 수년간 주장해온 내용이 현실의 화제가 됐다는 연락까지 받았다고 말했다.

그러나 기업 경영자 상당수는 여전히 AI가 인류를 멸망시킬 것이라는 주장에 큰 비중을 두지 않고 있다.

초기 기술기업 경영자를 자문하는 투자자 숀 번스는 기업 최고경영자들은 AI가 실제 업무에서 실수하는 모습을 가까이서 보고 있기 때문에 인류 멸망 같은 위험은 현실성이 떨어진다고 받아들이는 경우가 많다고 말했다.

그가 10일 샌프란시스코 베이 지역에서 만난 10여명의 CEO 가운데 AI가 인류를 위협할 수 있다는 주장을 심각하게 받아들인 사람은 없었다.

트럼프 행정부와 기술업계 일각에서는 AI 위험을 연구하는 비영리단체들이 규제 강화를 위해 콕슨의 퇴사를 활용했다는 주장도 제기하고 있다.

콕슨은 다른 AI 기업 퇴사자들과 상의한 것은 사실이지만 회사를 떠나기로 한 결정은 자신의 판단이었다고 밝혔다.

그는 자신의 게시물이 이처럼 폭발적인 반응을 얻을 것으로 예상하지 못했다며 이런 규모의 사회적 반응은 누군가 인위적으로 만들어낼 수 있는 것이 아니라고 말했다.

WSJ는 이번 논쟁이 AI의 실존적 위험에 대한 견해가 옳고 그름을 떠나, 그동안 기술업계 내부에 머물렀던 AI 안전 문제가 미국 일반 대중의 일상적인 관심사로 옮겨가기 시작했음을 나타낸다고 분석했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com