SK텔레콤, AI 고객센터 오픈…상담 업무 대폭 개선

SK텔레콤이 통신 AI를 활용한 AI 고객센터의 베타 운영을 성공적으로 진행했다. 2025년 모든 상담 업무에 전면 적용할 계획이며, 이를 통해 고품질의 상담 서비스를 더욱 빠르게 제공한다는 방침이다.

SKT가 자체 개발한 통신향 거대언어모델(Telco Large Language Model)을 활용한 고객센터 AI 상담 업무 지원 시스템을 오픈하고, 한 달여간 베타 서비스를 성공적으로 운영했다고 18일 밝혔다.

SKT는 앤트로픽(Anthropic) 등 해외 주요 LLM 업체들과 협력을 바탕으로 다양한 통신 전문 지식을 학습한 통신향 LLM을 개발해 왔다. 고객센터 상담 전문가 수십 명이 참여해 통신향 LLM 성능 향상을 위한 다양한 학습 데이터를 구축했으며, 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들어 왔다.
이와 더불어 LLM이 질문에 가장 정확하고 구체적인 답을 생성할 수 있도록 답변 생성에 필요한 정확한 정보만을 검색, LLM에게 제공하고 답변 품질을 증강시키는 RAG(Retrieval Augmented Generation)도 개발·적용 함으로써 LLM의 답변 신뢰도를 대폭 개선했다.

이러한 과정을 거쳐 자체 개발한 통신향 LLM/LMM을 실제 상담 업무에 활용할 수 있는 AI 상담 업무 지원 시스템을 구축했다. SKT는 이를 통해 고객에게 한층 더 빠르면서도 고품질의 상담을 제공할 수 있게 될 것이라고 전했다.

먼저 Telco LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다.
이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이 '퍼플렉시티'나 '챗GPT'처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 이를 통해 상담사들의 정보 탐색 시간을 단축시키고, 상담사 개인의 역량·경력과 무관하게 고품질 상담 서비스를 제공할 수 있게 됐다.

SKT는 지난 10월 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화시키고 있으며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com