[김대호 인물] 제프 딘(Jeff Dean) ...구글 퇴사 "진짜 이유"

"하늘에 두 개의 해가 있을 수 없듯 그 하늘 아래 두 명의 왕이 있을 수 없다." 한때 세계를 지배했던 알렉산더 대왕 (Alexander the Great)의 말이다. 페르시아의 다리우스 3세가 평화 협정을 건네며 제국을 둘로 나누어 통치하자고 제안했을 때 알렉산더가 남긴 유명한 답신이다.사마천의 역사책 사기 고조본기에는 양웅불립 (兩雄不立)이라는 고사가 있다. '두 영웅은 함께 서 있을 수 없다'는 뜻이다. 항우와 유방이 싸울 수 밖에 없었던 상황이다. 요즘도 한 하늘 아래 두 명의 영웅이 공존할 수 없음을 비유할 때 양웅불립이라는 말을 자주 쓴다. 세계 최고의 빅테크 기업인 구글 알파벳에서도 영웅들의 전쟁이 벌어졌다.
실리콘밸리 마운틴뷰의 구글 본사 '글로벌 헤드쿼터'는 큰 충격에 빠졌다. 구글의 30번째 직원이자, 지난 27년간 빅데이터와 인공지능(AI) 시대를 개척해 온 거장 제프 딘(Jeff Dean) 수석 과학자가 구글에 돌연 사직서를 제출했기 때문이다. 단순한 개인의 퇴사가 아니었다. 산제이 게마왓(Sanjay Ghemawat), 오리올 빈얄스(Oriol Vinyals), 쿽 레(Quoc Le) 등 구글 AI 기술의 '근간(Foundation)'을 만들어 온 거물급 핵심 연구진이 그와 함께 짐을 쌌다. 제프 딘이 누구인가. 오늘날 빅데이터 분석의 모태가 된 맵리듀스(MapReduce)와 빅테이블(BigTable)을 설계하고, 머신러닝의 표준으로 자리 잡은 텐서플로(TensorFlow)와 AI 전용 반도체 TPU를 탄생시킨 '구글 기술 제국의 설계자'다. 소프트웨어 엔지니어들 사이에서 "제프 딘의 키보드에는 0과 1 두 개의 키만 있다"는 밈(Meme)이 존재할 만큼, 그는 구글이 지닌 엔지니어링 최고 존엄이자 살아있는 신화였다.

그런 그가 27년 도전을 뒤로하고 새로운 스타트업 '디스커버리 루프(Discovery Loop)'를 창업하며 구글을 떠났다. 구글(Alphabet)은 공식적으로 그의 창업에 초기 투자자로 참여하며 "원만한 분사"라는 명분을 내세웠다. 그러나 거시적 통찰과 권력 지형의 눈으로 볼 때, 이번 사건은 단순한 창업이 아니다.이것은 2014년 딥마인드 인수 이후 12년 동안 물밑에서 처절하게 전개되어 온 '구글브레인(Google Brain)'과 '딥마인드(DeepMind)' 간의 혈투, 즉 실리콘밸리 AI 내전(Civil War)의 종식이자, 구글 내부의 엔지니어링 패권이 완전히 몰락했음을 고하는 서글픈 사망진단서다.

구글 내부의 AI 패권 전쟁을 이해하기 위해서는, 2010년대 초반으로 시계를 돌려 두 세력의 뿌리와 정체성을 짚어보아야 한다. 구글의 AI 역사는 서로 다른 DNA를 가진 두 조직의 거대한 평행선이었다.구글 내부에는 두 개의 거대한 축이 존재하고 있었다. 미국 실리콘밸리 본사를 거점으로 제프 딘과 앤드류 응이 이끌던 '구글브레인'과, 영국 런던 본부를 기반으로 데미스 허사비스가 이끌던 '딥마인드'가 바로 그 주인공들이다.두 조직은 뿌리부터 철저히 달랐다. 구글브레인이 철저한 엔지니어링과 오픈소스, 그리고 연구의 자율성을 최우선 가치로 삼아 맵리듀스, 텐서플로, TPU 같은 실용적인 기술을 만들어냈다면, 딥마인드는 인간 수준의 범용인공지능(AGI) 달성을 목표로 중앙집권적 통제를 거쳐 알파고나 알파폴드 같은 파격적인 학술적 성과를 내는 데 집중했다.
2012년 제프 딘과 앤드류 응(Andrew Ng) 교수가 공동 설립한 '구글브레인'은 구글 특유의 자유로운 엔지니어링 문화의 집약체였다. 구글브레인의 목표는 명확했다. 딥러닝이라는 초유의 기술을 실용적 컴퓨팅 인프라에 결합하여 구글의 수십억 사용자 서비스—검색, 유튜브, 번역, 사진 등—에 즉각 적용하는 것이었다. 제프 딘이 이끄는 구글브레인은 오픈소스 정신을 숭상했다. 그들은 연구 성과를 숨기지 않고 세상에 공개했으며, 대표적 프레임워크인 텐서플로를 전 세계 개발자들에게 무상으로 풀었다. 수평적 조직 문화, 엔지니어 개개인의 자율적 탐구, 그리고 무한한 컴퓨팅 자원을 바탕으로 수평 확장하는 엔지니어링 실용주의가 구글브레인의 철학이었다.

반면, 2014년 구글이 5억 달러라는 거금을 주고 인수한 영국 런던 기반의 '딥마인드'는 완전히 다른 혈통을 가지고 있었다. 체스 신동 출신의 신경과학자 데미스 허사비스(Demis Hassabis)가 이끄는 딥마인드는 시작부터 '인간 수준의 범용인공지능(AGI) 구현'이라는 거대한 단일 목표를 내걸었다.딥마인드는 중앙집권적이었고, 보안에 극도로 철저했으며, 엘리트주의적이었다. 구글 본사와의 통합에 강한 거부감을 나타내며 독립적 연구권을 요구했고, 구글의 실용적 서비스 적용보다는 바둑(알파고), 스타크래프트(알파스타), 단백질 구조 예측(알파폴드) 등 파격적이고 학술적인 성과에 집중했다. 런던 본부는 구글의 통제권 밖에 존재하는 일종의 '독립 왕국'이었다.

두 조직의 균열은 알파고(AlphaGo)가 전 세계를 흔들었던 2016년 무렵부터 본격화되었다.딥마인드가 알파고로 전 세계의 화려한 조명을 받는 동안, 정작 알파고를 구동시킨 수만 개의 GPU와 구글 데이터센터의 천문학적 전력 비용, 그리고 수억 달러에 달하는 딥마인드의 적자를 메운 것은 제프 딘과 구글브레인이 구축한 서버 인프라와 구글 본사의 검색 광고 수익이었다.

"딥마인드는 영광을 독식하고, 구글브레인은 뒤에서 설거지를 한다." 그 당시 마운틴뷰 본사 내부에서 심심치 않게 나오던 불만이었다. 구글브레인 연구원들은 딥마인드가 구글의 자원을 무제한으로 쓰면서도 정작 구글의 실제 수익 모델이나 인프라 개선에는 기여하지 않고, 성과를 런던의 독자적 공적으로 포장하는 것에 깊은 불만을 품었다.기술적 주도권 다툼도 치열했다. 제프 딘은 머신러닝의 보편적 적용과 효율적인 컴퓨팅 아키텍처(TPU) 확장에 집중한 반면, 데미스 허사비스는 강화학습(Reinforcement Learning) 중심의 AGI 접근법을 고집했다.
자금 집행에서도 갈등은 극에 달했다. 딥마인드는 매년 수천억 원의 손실을 냈고, 구글 경영진이 딥마인드에 실용적 수익화를 요구할 때마다 허사비스는 "AGI 달성이 우선"이라며 강하게 반발했다. 한때 딥마인드가 구글로부터 완전히 독립하기 위해 모회사 알파벳과 비영리 법인 전환 협상을 벌였다가 무산된 사건은 두 세력 간의 골이 얼마나 깊었는지를 보여주는 결정적 사건이었다.

두 세력 간의 시소게임은 2022년 11월, 오픈AI(OpenAI)가 '챗GPT(ChatGPT)'를 세상에 내놓으면서 미증유의 대변혁을 맞이하게 된다.검색 제국의 종말을 예고하는 '코드 레드(Code Red)'가 발령되자, 알파벳 CEO 순다르 피차이는 긴급 처방을 내렸다. 2023년 4월, 그동안 따로 놀던 구글브레인과 딥마인드를 강제로 하나로 묶어 '구글 딥마인드'라는 단일 조직을 출범시킨 것이다.이 합병 과정에서 권력의 운동장은 완전히 한쪽으로 기울어졌다. 조직의 전권을 쥐는 CEO 자리에는 딥마인드의 데미스 허사비스가 올라서서 인사권과 사업 전략을 주도하게 되었다. 구글의 산증인이었던 제프 딘은 실권이 없는 '수석 과학자(Chief Scientist)'라는 상징적 직함만 받은 채 핵심 의사결정 구조에서 밀려났다.

통합 조직 내부에서는 즉각 격렬한 거부 반응이 일어났다. 자유로운 토론과 개방적 논문 출판을 지향하던 구글브레인 출신 연구원들은, 허사비스가 이식한 런던식의 극단적 기밀주의와 탑다운(Top-down) 방식의 지시 체계에 반발했다.이 같은 조직적 파열음은 차세대 거대 언어 모델인 '제미나이(Gemini)' 개발 과정에서 그대로 드러났다.구글브레인 출신들은 실용적이고 빠른 반복 실험과 오픈소스 생태계와의 호환성을 주장했다.딥마인드 출신들은 거대 아키텍처의 완벽성과 강화학습 기반의 제어 통제를 고집했다.서로 다른 두 파벌의 코드 베이스와 개발 방법론이 얽히면서 제미나이의 시연 영상 조작 논란, 편향성 논란, 그리고 모델 출시 지연 사태가 잇따라 터졌다. 오픈AI가 GPT-4o를 내놓고 승승장구하는 동안, 구글의 AI 최고 엘리트 집단은 내부 파벌 싸움과 주도권 다툼으로 골든타임을 허비하고 있었던 것이다.

제프 딘이사임표를 던진 것은, 결국 허사비스 체제하의 구글 딥마인드에서 엔지니어링의 자율성이 완전히 사망했음을 의미한다.구글은 2026년 들어 제미나이의 성과 부진과 조직 내 분열을 수습하기 위해 데미스 허사비스를 일선 CEO에서 물러나게 하고 알파벳 수석 과학자 및 딥마인드 의장(Chairman)으로 이동시키는 리더십 개편을 단행했다. 실무 총괄은 코레이 카부쿠오글루(Koray Kavukcuoglu) CTO에게 맡겨졌다.이미 구글의 AI 조직은 딥마인드 출신 인사들이 요직을 독점한 상태였다. 제프 딘과 구글브레인 파벌이 구축해 온 '자유로운 연구와 엔지니어링의 성지' 구글은 더 이상 존재하지 않았다.
현재의 구글은 더 이상 순수한 기술 탐구가 가능한 공간이 아니다. 매 분기 주가 변동과 앤스로픽(Anthropic), 오픈AI와의 피 말리는 생성형 AI 점유율 싸움 속에서, 엔지니어들은 오직 '다음 달에 출시할 제품 기능'을 찍어내는 공장 근로자로 전락했다. 데미스 허사비스가 주도하는 AGI 맹신론은 제프 딘과 같은 정통 컴퓨팅 학자가 보기에는 지나치게 과장되고 거품이 낀 정치적 슬로건이었다. 대규모 언어 모델(LLM)의 파라미터를 무작정 늘리는 스케일링 로(Scaling Law)가 한계에 봉착했음에도, 조직은 여전히 자금과 자원을 쏟아부으며 거대 모델 경쟁에만 매몰되어 있었다.

구글을 뒤로하고 제프 딘이 선택한 새 둥지는 바로 '디스커버리 루프(Discovery Loop)'라는 스타트업이다. 이 조직은 상업용 챗봇을 만들어 당장 돈을 버는 데 목적을 두지 않는다. 머신러닝 기술을 활용해 과학과 공학의 연구 및 실험 과정 자체를 자동화하는 것을 목표로 삼는 '공익법인(Public Benefit Corporation)' 형태로 설립되었다.더욱 주목할 점은 그와 함께 구글을 떠난 동료들이다. 구글의 기초 인프라를 함께 만들었던 산제이 게마왓을 비롯해 오리올 빈얄스, 쿽 레 등 최고의 연구진이 이 도전에 한뜻으로 합류했다. 이는 주주들의 단기적 배당 압박이나 상업적 제품화 강요에서 벗어나, 자신이 30년 전 미네소타 대학교 학사 논문에서 꿈꿨던 '컴퓨팅을 통한 인류 학문의 지평 확장'이라는 순수한 초심으로 돌아가겠다는 선언이다.가장 강력한 연구 파트너인 산제이 게마왓과 함께 구글을 나섰다는 점은, 그들이 구글이라는 거대한 공룡 내부에서는 더 이상 위대한 기술적 진보를 이룰 수 없다고 결론 내렸음을 증명한다.

제프 딘의 퇴사는 1990년대 후반 벤처 정신으로 출발했던 구글이 완벽한 '관료주의 빅테크 기업'으로 변질되었음을 시사하는 거대한 분수령이다.과거 구글은 위대한 엔지니어들이 모여 세상을 바꿀 아키텍처를 던지면 경영진이 이를 지원하는 구조였다. 그러나 구글브레인과 딥마인드의 12년 패권 전쟁은 정치적 수사, 세력 다툼, M&A로 덩치를 키운 외부 세력의 내부 정복, 그리고 상업적 성과 압박이 어떻게 위대한 엔지니어링 영혼을 고사시키는지를 적나라하게 보여주었다.

제프 딘은 패배해서 떠난 것이 아니다. 그는 정치판으로 변해버린 구글의 AI 패권 전쟁터에서 스스로 걸어 나와, 다시 한번 기술의 본질을 향해 망명길을 택한 것이다.구글은 '전설' 제프 딘을 잃었고, 실리콘밸리는 엔지니어링의 한 시대가 완전히 저물었음을 목도하고 있다. 구글이 과연 딥마인드의 정치와 관료주의 속에서 오픈AI와 앤스로픽의 거센 공세를 버텨낼 수 있을 것인가. 제프 딘이 떠난 마운틴뷰의 석양 아래, 구글 AI 제국의 그림자가 짙게 늘어서 있다.


김대호 글로벌이코노믹 연구소장 tiger8280@g-enews.com