[실리콘 디코드] TSMC, '생산성 특허' 앞세워 리소그래피 패권 굳힌다

초미세 공정을 향한 글로벌 파운드리(반도체 위탁생산) 경쟁이 격화되면서, 첨단 칩 제조의 핵심 기반 기술인 극자외선(EUV) 리소그래피 분야의 패권 다툼이 치열해지고 있다. 이러한 상황에서 업계 1위인 대만의 TSMC가 최근 7년간 관련 특허 출원을 두 배 이상 늘리며, 삼성전자와 인텔 등 주요 경쟁사와의 기술 격차를 더욱 벌리고 있다는 분석이 나왔다.
22일(현지시각) 트렌드포스와 닛케이 크로스테크(닛케이 XTECH) 보도에 따르면, TSMC의 반도체 리소그래피 기술 관련 특허 출원이 2010년대 중반 이후 가파른 증가세를 보이고 있다. 닛케이 XTECH는 일본, 미국, 유럽, 중국과 기타 지역에 출원된 특허를 심층 분석했다. 특히 반도체 리소그래피 장비를 포괄하는 국제특허분류(IPC) 코드 'H01L21'과 '리소그래피(Lithography)', 'EUV' 핵심 키워드를 포함한 특허를 집중적으로 분석했다. 트렌드포스 분석에 따르면, TSMC의 전체 반도체 관련 특허 수는 2016년 약 8500건에서 2023년 1만5300건으로 약 80% 증가했는데, 같은 기간 리소그래피 분야 특허는 훨씬 크게 증가했다.

분석 결과, 'H01L21' 분류 기준으로 TSMC가 2023년에 출원한 특허는 총 1548건에 이르렀다. 이는 2016년의 723건과 비교해 약 2.1배 증가한 수치다. '리소그래피' 키워드를 포함한 특허 출원 건수 역시 뚜렷한 증가세를 보였다. TSMC는 2023년에만 932건의 관련 특허를 출원했으며, 이는 2016년 기록한 350건 대비 2.7배 급증한 규모다. 닛케이 XTECH는 이 같은 TSMC의 압도적인 특허 확보 물량이 다른 주요 반도체 제조사들과의 격차를 현저히 벌리고 있음을 시사한다고 지적했다.

TSMC의 이러한 특허 증가는 단순한 장비 운용 기술을 넘어, 제조 수율과 공정 안정성과 직결된 핵심 기술에 집중된 것이 특징이다. 닛케이 XTECH 분석에 따르면 TSMC는 '생산성을 위한 지적재산(IP for productivity)' 확보에 주력하고 있다. 이 전략은 EUV 장비 자체의 기본 연구보다, 확보된 장비의 운영 효율을 극대화하고 공정 제어를 자동화하는 '운영 기술'에 방점을 둔 것이다.

구체적으로는 △EUV 광원 안정화 제어 알고리즘(출력 변동 0.1% 이하 제어) △ASML 장비의 맞춤형 기술 △딥러닝 기반의 광학 근접 효과 보정(OPC) 시뮬레이션 △재노광(re-lithography) 알고리즘 △포토레지스트 열 안정성 개선 기술 등에서 특허 출원에 집중했다.

특히 AI 기반 시뮬레이션 특허군(2021-2023)은 실제 노광 이미지와 시뮬레이션 간의 오차율을 30% 개선했으며, N2(2나노)와 N1.4 노드 개발에 이미 적용 중인 것으로 알려졌다. 또한 △초박형 카본계 펠리클 소재(2022) △다중 노광 구조에서의 E-Beam 결함 탐지 데이터 보정(2023) 특허 등도 확보하며 High-NA EUV 시대를 대비하고 있다.

특허가 등록된 지역별 비중(닛케이 XTECH 기준) 역시 TSMC의 전략을 뒷받침한다. △대만(38%) 비중이 가장 높았으며, 이는 실제 생산 공정과 직접 관련된 기술이 주를 이뤘다. 이어 △미국(28%)은 시뮬레이션 알고리즘 △일본(14%)은 소재와 광학 요소 △유럽(12%)은 EUV 장비 협력 △중국(8%)은 공급망과 마스크 제조 자동화 관련 특허가 주를 이뤘다.
업계에서는 특히 일본과 유럽 특허 비중이 꾸준히 증가하는 점에 주목하고 있다. ASML, 캐논(Canon), 도쿄 일렉트론(Tokyo Electron) 등 핵심 장비업체와의 협력과 공동 특허 비중이 그만큼 확대됐다는 의미다.


이번 보고서에서는 TSMC 외에 리소그래피 특허 분야에서 두각을 나타내는 의외의 주자로 IBM을 조명한 점이 눈에 띈다. IBM은 2014년 반도체 제조 사업에서는 공식 철수했으나, 미국 뉴욕주 올버니 나노테크 센터(Albany NanoTech Center)를 거점으로 리소그래피 시뮬레이션과 EUV 결함 복원 연구 등 첨단 공정 기술 개발을 지속해왔다.

특히 IBM은 차세대 2나노미터(nm) 세대 기술 개발과 관련, 일본 도쿄에 본사를 둔 신생 반도체 기업 라피더스와 전략적 파트너십을 구축했다. 2024년 이후 이 2나노 공동개발 프로젝트에서 IBM이 핵심 기술을 공유하기 시작하면서, 미세 공정 경쟁 구도에 새로운 변수로 떠오르고 있다.

선두 주자인 TSMC를 추격하는 삼성전자 역시 EUV 관련 기술 고도화와 핵심 소재·부품 국산화에 총력을 기울이는 모습이다. TSMC가 공정 안정성과 수율 확보에 집중하는 것과는 달리, 삼성은 EUV 소재와 부품의 공급망 내재화에 우선순위를 둔 전략으로 풀이된다.
업계에 따르면, 삼성전자는 최근 EUV 블랭크 마스크 제조사인 '에스앤에스텍(S&S Tech)'과 공동으로 EUV 리소그래피 공정에 필수적인 펠리클 프레임의 자석형 접합 구조 특허를 출원했다. 이 특허는 EUV 포토마스크에 오염을 방지하는 얇은 막인 펠리클을 부착할 때 사용되는 프레임 조립에 관한 것이다. 구체적으로는 자석을 기반으로 한 프레임 조립 기술이다.

현재 삼성전자는 EUV 블랭크 마스크의 상당 물량을 일본 호야(Hoya Corporation) 등 해외 기업에 의존하고 있다. 삼성은 에스앤에스텍과의 협력을 통해 이르면 올해 말까지 국산 EUV 블랭크 마스크의 국내 양산 체제를 갖추는 것을 목표로 하고 있다. 이와 별개로 삼성은 화성 EUV 노광장비용 펠리클 생산라인에도 투자, 2026년 양산을 목표로 하고 있다.

한편, 2023년 기준 EUV 특허 점유율 세계 3위를 기록한 인텔은 TSMC, 삼성과는 또 다른 전략을 취하고 있다. 인텔은 차세대 High-NA EUV 장비 도입에 가장 적극 나서는 만큼, 관련 축소 광학계 제어권과 검출 알고리즘 특허 확보에 집중하고 있다. 다만 닛케이 XTECH는 공정 통합(process integration) 관련 특허 수에서는 TSMC가 인텔보다 1.8배 많다고 분석하며, 양사 전략의 차이를 분명히 보여준다.

TSMC의 압도적인 특허 공세와 IBM·라피더스 연합의 등장, 그리고 삼성전자의 국산화 노력이 맞물리면서, 반도체 초미세 공정의 '열쇠'를 쥔 리소그래피 기술을 둘러싼 글로벌 경쟁은 더욱 본격화하고 있다.

트렌드포스는 TSMC가 2024년에서 2025년 사이 약 2,000건의 추가 리소그래피 특허 등록을 목표로 하고 있다고 전했다. 특히 2026년에서 2028년 사이 High-NA EUV 사용이 본격화되면, TSMC와 ASML 간의 연합 특허 구조는 더욱 확장될 것으로 보인다. 업계에서는 TSMC가 멀리 보아 2030년까지 기존의 '공정 단위 기술' 특허에서 'AI와 노광 공정을 통합 관리하는 플랫폼' 특허로 전환을 시도하며 기술 초격차를 유지할 것으로 보고 있다.


박정한 글로벌이코노믹 기자 park@g-enews.com