LG U+, 글로벌 AI학회서 토큰 최적화 기술 인정받아

LG유플러스(이하 LG U+)가 인공지능(AI) 응답 속도를 높이고 배터리 소모는 줄이는 '토큰 최적화' 기술과 관련된 논문 2건이 글로벌 AI 학회인 '뉴립스 2026'에서 주요 논문으로 채택됐다. 올해 행사는 오는 12월 6일부터 12일까지 호주 시드니에서 열린다.
29일 LG U+에 따르면 최근 AI 서비스 경쟁이 모델 성능을 넘어 ‘토큰을 얼마나 빠르고 효율적으로 처리하느냐’로 확대되고 있다. 토큰은 AI가 질문을 이해하고 답변을 생성할 때 사용하는 데이터 단위로 토큰을 빠르고 효율적으로 처리할수록 응답 속도를 높이고 전력과 자원 사용을 줄일 수 있다.

이에 LG U+는 이 같은 토큰 최적화 기술을 스마트폰 환경에 적용해 제한된 메모리와 전력으로도 소형언어모델(sLM)을 효율적으로 실행하고 학습하는 방법을 연구했다. 통화 서비스에 활용할 sLM을 개발하고 모델 경량화와 추론 가속 기술을 적용해 스마트폰 환경에 맞게 최적화했다.

그 결과 최신 클라우드 AI 수준의 성능을 유지하면서 기존 방식보다 처리 속도를 약 4.5배 높이고 배터리 소모는 약 77% 줄였다. 성능 저하를 최소화하면서 스마트폰의 제한된 연산 자원과 배터리를 효율적으로 활용할 수 있도록 한 것이 특징이다. 개인 데이터를 외부로 보내지 않고 스마트폰 안에서 AI를 직접 학습하는 기술도 연구했다.
향후 LG U+는 이번 연구에서 확보한 기술을 향후 자사의 다양한 AI 서비스에 활용하는 방안을 검토하고 있다. 구체적으로 스마트폰에서 검증한 최적화 역량을 서버 GPU 환경으로 확대해 고객이 보다 빠르고 편리하게 AI를 이용할 수 있도록 할 계획이다.

이상엽 LG U+ 최고기술책임자(CTO)는 “이번 뉴립스 논문 채택은 제한된 환경에서도 AI를 빠르고 효율적으로 실행하고 학습하기 위한 연구 성과를 인정받은 것”이라며 “고객이 AI 서비스를 보다 빠르고 편리하게 이용할 수 있도록 관련 기술을 실제 서비스에 적용하고, 향후 서버 환경까지 연구 범위를 확대해 나가겠다”고 말했다.

한편 LG U+는 AI 사업의 효율을 고도화하기 위해 이콜랩과 AI데이터센터(AIDC) 액체냉각 운영 방안 개발에 나섰다. 이를 통해 효율적으로 AIDC를 운영하고 있다.


이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com