[실리콘 디코드] TSMC 초격차의 비밀…ASML 장비에 '대학의 기술력' 접목

세계 1위 반도체 위탁생산(파운드리) 기업 TSMC는 어떻게 독주하는가. 삼성전자 같은 경쟁사들이 네덜란드 ASML이 만든 똑같은 최첨단 극자외선(EUV) 장비를 쓰는데도, 유독 TSMC의 수율(결함 없는 합격품 비율)을 넘어서지 못하는 까닭은 업계의 오랜 수수께끼였다.
대만 IT전문 매체 디지타임스가 지난 10월 17일 기사에서 그 해답을 내놨다. 실마리는 뜻밖에도 대만의 한 대학 연구실에서 나왔다. ASML 장비 자체가 아니라, 장비 성능을 한계까지 끌어올리는 '보이지 않는 눈'을 TSMC가 따로 개발해 현장에 투입해 온 사실이 드러난 것이다.

첨단 반도체 경쟁의 본질이 장비 도입을 넘어 '활용 역량'에 있다는 지적은 많았다. ASML의 EUV 노광장비는 한 대 가격이 2000억 원을 넘는 현대 기술의 집약체지만, 최고의 성능을 내려면 아주 정밀하게 조정하고 끊임없이 성능을 개선하는 작업이 꼭 필요하다. TSMC가 경쟁사들을 압도하는 비밀은 바로 이 대목, 곧 표준 장비가 감지하지 못하는 미세 결함까지 잡아내는 데이터 기반 공정 감시와 보정 기술, 그중에서도 핵심인 나노 크기 센서에 있었다.


이 비밀 병기는 대만 정부와 학계, TSMC의 긴밀한 산학협력을 통해 나올 수 있었다. 대만 국가과학기술위원회(NSTC)의 전폭 지원 아래, 대만 중앙연구원 특별연구원이자 TSMC의 EUV 기술을 처음 개발한 이들 가운데 한 명인 국립칭화대학의 린번정 교수가 여러 EUV 리소그래피 연구를 이끌어 왔다. 그의 연구팀이 맡은 핵심 과제, '극자외선용 나노급 마이크로 센서 어레이 설계와 개발'이 바로 TSMC의 수율 우위를 뒷받침하는 핵심 기술이다. 이 기술은 현재 '2025 대만 이노테크 엑스포' 미래기술관에 전시돼 세계의 눈길을 끌고 있다.
TSMC는 ASML의 표준 장비만으로는 자사의 엄격한 제조 기준을 채울 수 없다는 현실적 한계에 부딪혔다. 이에 린번정 교수가 이끄는 칭화대 연구팀에 직접 연구 자금을 대기로 과감히 결정했다. 목표는 단 하나, EUV 공정에서 생기는 아주 작은 결함까지 실시간으로 찾아내 칩 생산 수율을 극적으로 끌어올리는 것이었다. 이 협력의 결과물이 '마이크로 센서 어레이(MDA)'다.

린 교수팀이 개발한 MDA는 EUV는 물론, 심자외선(DUV), 전자빔, 이온빔 같은 반도체 생산에 쓰는 거의 모든 빛의 세기와 균일성, 이미지 해상도, 회로 패턴의 가장자리 위치까지 나노미터(㎚·10억분의 1m) 단위로 정밀하게 잰다. NSTC 공개 자료를 보면, 이 센서는 고정된 형태의 잡음(노이즈)을 스스로 바로잡고, 명암 대비가 뚜렷하며, 넓은 동적 범위를 지원하는 등 뛰어난 성능을 자랑한다.

특히 이 기술은 현재 최첨단 반도체 공정의 표준인 5나노 이하 핀펫(FinFET) 공정 조건을 완벽하게 만족시킨다. 생산 라인에 매끄럽게 통합돼 공정 상태를 실시간으로 감시함으로써 EUV 장비의 잠재력을 최대한 끌어내는 한편, TSMC가 3나노와 그 이하 차세대 반도체 개발 기간까지 크게 줄이는 데 결정적으로 기여했다는 평가다.

TSMC와 대학의 협력은 일회성 사업을 넘어선 확고한 경영 전략의 하나로 자리 잡았다. ASML 같은 장비 제조사들은 고객사에 기술 지원을 하지만, 장비를 구체적으로 어떻게 운영하고 고칠지에 개입할 수는 없다. 표준 사양 장비만으로는 최고 수율을 이루려는 TSMC의 목표를 채우기엔 모자랐다. 이에 TSMC는 내부 공정을 끊임없이 개선하면서, 특정 기술 과제가 생길 때마다 대학 연구소와 손잡는 것을 당연하게 여긴다. 심지어 정부 연구 지원금이 부족하면, 회사가 직접 연구비를 보태 사업이 이어지도록 보장한다.

지난 10월 16일 막을 올린 '대만 이노테크 엑스포'는 TSMC의 사례가 대만 반도체 생태계를 명확히 보여주는 본보기다. 미래기술관에는 칭화대의 EUV 검사 모듈 말고도 세계를 이끌 혁신 기술들이 대거 선보였다. 국립대만대학의 후비화 교수팀이 개발한 고성능 강유전체 메모리, 국립중산대학의 훙융저 교수팀이 내놓은 통신·컴퓨팅·센서용 실리콘 포토닉스 기술 등이 그렇다. 이들 과제 모두 이미 세계 여러 기업의 큰 관심을 받으며 대만 반도체 산업의 밝은 앞날을 알리고 있다.

TSMC가 똑같은 장비를 쓰고도 경쟁사를 압도하는 힘은 장비 의존을 넘어선 독자적인 공정 최적화 역량에서 나온다. 이번에 드러난 나노센서 기술은 그 핵심이다. 앞으로 차세대 '하이-NA EUV' 시대로 바뀌어도 이 기술은 TSMC가 기술 격차를 계속 벌릴 수 있게 하는 강력한 무기가 될 것이다.


박정한 글로벌이코노믹 기자 park@g-enews.com