경산, GPU 112장에 국산 AI반도체 8대…제조업 AI 실증 본격화

경북 경산시가 고성능 인공지능(AI) 기반시설에 국산 AI반도체를 추가하며 제조업 현장 실증을 확대하고 있다.
기존 그래픽처리장치(GPU) 112개에 국내 반도체 기업 퓨리오사AI의 2세대 신경망처리장치(NPU) '레니게이드(RNGD)' 8대를 설치해 산업현장 활용 가능성을 검증하는 사업이다.

이번 실증은 지역 제조기업이 AI 기술을 도입할 때 부담해야 하는 연산장비 구축비용과 운영비를 줄일 수 있는지 확인하는 데 초점을 맞춘다.

AI 모델을 개발하는 과정부터 실제 산업현장에서 구동하는 단계까지 공용 기반시설을 활용하도록 지원하는 구상이다.



경산의 국산 AI반도체 실증은 2024년 시작된 경북 초거대 AI 클라우드팜 구축사업을 기반으로 추진된다.

이 사업은 과학기술정보통신부 공모를 통해 선정됐으며, 당시 2024년부터 2026년까지 3년간 총 258억원을 투입하는 것으로 계획됐다.

국비 111억원과 지방비 120억원, 민간 등 기타 재원 27억원으로 구성된 경북 광역사업으로 경산·포항·구미와 13개 참여기관이 함께 추진해 왔다.
경산은 경북IT융합산업기술원에 고성능 GPU 서버와 저장장치, 네트워크를 갖춘 AI 클라우드팜을 구축해 지역기업과 대학, 연구기관의 기술개발을 지원하는 역할을 맡았다.

GPU는 AI 모델을 학습시키거나 대량의 데이터를 동시에 처리하는 데 사용되는 연산장치다.

GPU 확보 규모도 단계적으로 확대됐다.
2024년 32장에서 2025년 72장으로 늘었으며, 올해 7월에는 112장을 갖춘 것으로 확인됐다.
지난해보다 40장, 약 56% 증가한 규모다.
클라우드팜은 기업이 고가의 AI 연산장비를 직접 구매하지 않고 외부에서 필요한 자원을 할당받아 사용할 수 있도록 운영된다.
자체 서버 구축이 어려운 중소기업도 AI 모델 개발과 성능 검증에 참여할 수 있는 구조다.

기존 사업에서는 경산의 차량용 AI 어시스턴트, 구미의 방산품 설계·유지보수, 포항의 악취 분석 등 지역산업과 생활현안을 연결한 실증도 추진됐다.

경산의 차량용 AI 서비스는 운행정보와 차량 상태 데이터를 분석해 운전자에게 필요한 정보를 제공하는 방식으로 개발이 추진됐다.


경산시는 기존 GPU 기반시설에 국산 NPU를 추가해 AI 연산장비의 활용 범위를 넓히고 있다.

GPU가 AI 모델 학습과 다양한 병렬 연산에 활용된다면 NPU는 학습된 모델이 입력된 정보를 바탕으로 판단하거나 답변을 생성하는 '추론' 작업을 효율적으로 처리하도록 설계된 반도체다.

제조현장에서 생산품의 이미지를 분석해 불량 여부를 판단하거나 로봇이 수집한 센서 데이터를 처리하는 과정에도 이러한 추론 연산이 사용된다.
AI 기술이 실제 작업에 투입되면 처리속도뿐 아니라 장시간 반복 구동에 필요한 전력과 운영비용도 중요해진다.

퓨리오사AI가 개발한 레니게이드는 이러한 추론 작업을 위해 설계된 2세대 AI반도체다.
5나노미터 공정으로 생산되며 48GB 용량의 고대역폭메모리(HBM3)를 탑재한다.
메모리 대역폭은 초당 1.5TB이며, 제조사 제품 소개에 명시된 설계전력은 180W다.

고대역폭메모리는 AI 연산에 필요한 대량의 데이터를 반도체에 빠르게 전달하는 역할을 한다.
메모리에서 데이터를 가져오는 시간이 길어지면 연산장치가 충분한 성능을 발휘하기 어려워지기 때문에 데이터 전송속도가 중요하다.

설계전력 180W는 반도체의 열 설계를 위한 기준값이다.
실제 산업현장에서 전력비용을 얼마나 줄일 수 있는지는 동일한 AI 모델을 구동했을 때의 처리속도와 전력소모량을 비교해야 확인할 수 있다.

경산에 설치된 레니게이드 8대는 이러한 성능과 산업현장 적용 가능성을 검증하는 데 활용된다.
기존 GPU와 국산 NPU를 연계하면 AI 개발과 서비스 운영에 필요한 서로 다른 연산 환경을 시험할 수 있다.


경산시와 경북도, 퓨리오사AI, 경북IT융합산업기술원은 지난 26일 서울 강남구 퓨리오사AI 본사에서 국산 AI반도체 실증과 산업생태계 조성을 위한 업무협약을 체결했다.

협약에는 제조·로봇·모빌리티 분야의 실증과 지역기업 AI 전환 지원, 관련 국비사업 발굴, 전문인력 양성 등이 포함됐다.
경산시는 이번 실증을 통해 확보한 결과를 바탕으로 국산 NPU 기반시설을 단계적으로 확충할 계획이다.

기업들이 AI를 실제 생산활동에 활용하려면 장비 성능과 함께 이용료와 기술지원 조건도 살펴야 한다.

경북 초거대 AI 클라우드팜의 공개된 이용요금은 엔비디아 H100 GPU 1대 기준 월 1200만원이다.
경북 소재 기업과 기관에는 기본요금의 70% 할인 혜택이 적용돼 해당 기준으로 계산하면 월 360만원이다.
협의체 참여나 장기계약 등 추가 할인 조건도 마련돼 있으며, 실제 요금은 이용조건에 따라 달라질 수 있다.

현재 경북IT융합산업기술원은 11~12월 GPU 가상자원 이용자를 모집하고 있다.
신청 대상은 경북 소재 AI 제품·서비스 개발기업과 연구기관, 대학 등이며, 접수는 30일 오후 11시 59분까지다.

이번 모집은 기존 GPU 자원을 대상으로 진행된다.
새로 도입한 국산 NPU는 산업현장 실증을 통해 활용 범위와 운영방식을 검증하는 단계다.

경산시는 지난 7월에도 총사업비 98억원 규모의 '소형 데이터센터 기반 AI산업 성장 지원' 공모사업에 선정됐다.
기존 클라우드팜을 활용해 AI 개발기업 10개 사 등과 지역특화 AI 서비스를 개발하고 현장 실증부터 품질 검증, 사업화까지 지원하는 사업이다.

경산의 AI 기반시설은 장비 확충에 이어 기업지원과 산업현장 적용으로 활용 범위를 넓혀가고 있다.
국산 AI반도체의 실제 활용성을 확인하려면 제조기업이 사용하는 AI 모델을 대상으로 처리속도와 전력소모량, 운영비용을 함께 검증해야 한다.

이러한 실증 결과는 국산 반도체의 산업현장 활용 범위를 판단하고 후속 투자 규모를 결정하는 기초자료가 될 전망이다.


심현보 글로벌이코노믹 기자 shimhb7444@naver.com