LG U+, 2027년 토큰 최적화 사업 진출 예고
SKT, 토큰 게이트웨이 준비…AI 모델·인프라 연결
KT, 토큰팩토리 출시…비용 절감·수익화 추진
SKT, 토큰 게이트웨이 준비…AI 모델·인프라 연결
KT, 토큰팩토리 출시…비용 절감·수익화 추진
이미지 확대보기토큰은 AI가 질문을 처리하고 답변을 생성할 때 사용하는 데이터의 기본 단위로 사용량이 늘어날수록 비용 부담도 커진다. 예를 들어 기업이 AI로 프로젝트를 진행하는 데 토큰 이용료 100만 원이 필요하다면 사용량을 절반으로 줄일 경우 같은 모델과 단가 기준 비용은 50만 원까지 감소한다. 여기에 플랫폼 이용료가 추가되더라도 기존보다 저렴하면 기업은 비용을 절감할 수 있다.
다만 비용 절감이 반드시 토큰 사용량 감소를 뜻하지는 않는다. 질문에 적합한 저비용 모델을 연결하거나 반도체 운영을 효율화해 같은 작업을 더 저렴하게 처리하는 방법도 있다. 통신사들은 이러한 기술을 활용해 플랫폼 이용료를 받거나 AI 서비스 공급 과정에서 발생하는 마진을 수익으로 확보하려는 구상이다.
AI업계 한 관계자는 "최근에는 AI 학습보다는 추론에 집중하는 추세"라며 "짧은 문장을 주고받는 과정에서도 토큰이 과하게 소모돼 이용료가 비싸지고 있다"고 설명했다.
LG유플러스(이하 LG U+)는 지난 12일 'AI 토큰 최적화 스터디'에서 오는 2027년 기업용 토큰 사업에 진출한다고 밝혔다. 아직 구체적인 서비스명과 요금은 결정하지 않았지만 기존 AI 서비스에서 검증한 최적화 기술을 상용화할 방침이다. LG U+는 모델 라우팅 기술을 활용해 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감하는 성과를 거뒀다. 자체 모델을 적용한 별도 코딩 사례에서는 최대 90%까지 비용을 낮춘 것으로 나타났다. 다만 적용 조건이 서로 달라 절감률을 동일한 기준으로 비교하기는 어렵다.
반도체 운영 비용 절감에도 나선다. 대규모 연산과 메모리 대역폭이 중요한 작업을 구분해 그래픽 처리 장치(GPU)와 신경망 처리 장치(NPU)에 분산하는 '칩 믹스' 기술을 활용한다. 아울러 온디바이스 AI 모델 크기를 기존 2.4기가바이트(GB)에서 800메가바이트(MB) 수준으로 축소해 구동에 필요한 자원도 줄였다.
SK텔레콤(이하 SKT)은 '토큰 게이트웨이' 사업을 준비하고 있다. 고객의 AI 사용 패턴을 관리하고 업무에 적합한 모델과 인프라를 연결하는 방식으로 기존 통신 서비스와 결제 체계 등을 결합해 기업 고객을 확보하겠다는 전략을 세웠다. 다만 구체적인 출시 일정과 과금 방식은 공개하지 않았다.
KT는 지난달 29일 '토큰팩토리'를 출시하며 관련 시장에 진출했다. 국내외 AI 모델을 하나의 응용 프로그램 프로그래밍 인터페이스(API)로 연결해 가입부터 사용량 확인, 결제까지 통합 지원한다. 토큰팩토리에는 KT가 자체 개발한 '오토 모델 라우터'를 적용했다. 질문에 적합한 모델을 자동으로 선택하고 프롬프트 압축 기술로 불필요한 토큰 사용을 줄여 최대 25%의 비용 절감 효과를 기대하고 있다. 지원 모델도 기존 73종에서 500종 이상으로 확대한다는 목표를 제시했다.
또 KT는 수익 구조에서도 단순 중개 수수료보다 자체 데이터센터의 GPU를 활용한 AI 추론 서비스에 무게를 두고 있다. 기업에 제공한 토큰 이용료와 실제 처리 원가의 차액을 통해 수익성을 확보하겠다는 전략으로 풀이된다.
관건은 통신사들이 비용 절감 효과를 얼마나 수익으로 연결할 수 있느냐다. 기업에 기존보다 저렴한 AI 서비스를 제공하면서도 인프라 운영비와 플랫폼 유지비를 제외한 이익을 확보해야 하기 때문이다. 특히 AI 모델 개발사들도 자체 비용 최적화 기술을 고도화하고 있어 가격 경쟁력과 기술 차별화가 향후 사업성을 좌우할 것으로 보인다.
이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com













