이미지 확대보기SK텔레콤은 30일 서울 중구 SKT타워 수펙스홀에서 '텔코LLM 설명회' 자리를 마련했다. 이날 설명회에서는 '텔코LLM'의 출시 계획과 서비스 적용 범위, 방식 등에 대해 논의하는 시간을 가졌다. 텔코LLM은 이르면 오는 6월 초 국내 출시가 이뤄질 예정이다. 이후 SK텔레콤은 해외 통신사와의 논의를 거쳐 텔코LLM의 글로벌 버전을 개발하고 해외 시장에도 출시한다는 계획이다.
텔코LLM이 내세우는 장점은 각각의 업무 특성에 맞춘 다양한 LLM을 적용했다는 것이다. 우선 SK텔레콤의 에이닷엑스(A.X)와 오픈AI의 GPT, 앤트로픽의 클로드 등 우수하다고 알려진 여러 범용 모델을 사용했다. 물론 적용 전, 통신사의 업무에 필요한 전문 지식을 갖출 수 있도록 '파인튜닝(Fine tuning)' 과정을 거쳤다. 파인튜닝은 사전 학습된 인공지능 모델의 가중치를 새로운 데이터에 맞게 세밀하게 조정해 성능을 향상시키고 학습 시간을 줄이는 일련의 과정을 가리킨다.
에릭 데이비스 SKT AI 기술 협력 담당은 "텔코LLM은 각 LLM의 장점만을 모아 다양한 서비스를 선보일 수 있다. 고객 상담, 마케팅, 업무 보조, 스팸 필터링 등을 학습하고 파인튜닝해 여러 서비스에 접목이 가능하다. SK텔레콤이 40년 동안 쌓은 고객 데이터를 바탕으로 텔코LLM을 고객 상담 일선에 적용해 사용하고자 한다. 현재 텔코LLM의 요금제 추천, 응답 만족도, 욕설 및 비속어 필터링 기능에 맞춘 튜닝을 진행 중"이라고 설명했다.
이미지 확대보기다만 LLM의 고질적인 문제로 지적되는 '할루시네이션(hallucination) 현상'에 대한 해결은 필수적인 부분이다. 또한 통신 정책이 변경되거나 신규 요금제의 출시로 정보가 변경되는 시기에 생기는 불일치 현상도 해결해야 할 문제다. 이에 SK텔레콤은 텔코LLM과 자사의 데이터베이스를 바탕으로 거짓 혹은 잘못된 정보를 고객에게 제공하는 일이 없도록 최대한 기술적 노력을 거듭했다는 설명이다.
정민영 SK텔레콤 AI 플랫폼 담당은 "LLM은 학습 시점까지의 데이터만 알고 있기 때문에 업데이트, 변경 내용에 대해 차이가 분명히 존재한다. 아주 정확한 숫자, 팩트 체크가 필요한 부분에 대한 한계가 있는 것이다. SK텔레콤은 텔코LMM의 기술적 약점을 보완하기 위해 실제 사내 데이터베이스 기반으로 답변을 생성하게 했다. 사용자의 질문에 대한 이해 바탕으로, 신뢰할 수 있는 답변을 제공할 수 있도록 개발했다"고 말했다.
텔코LLM은 고객과의 접점 일선인 고객센터에서 더욱 빛을 발할 것으로 보인다. 숙련되지 않은 상담사들의 경우 텔코LMM을 활용해 고객이 요구하는 문제에 대한 답을 검색할 수 있다. 이때 제시되는 답변 가이드를 고객에 제공하고, 상담을 마친 후 상담 내용을 요약해 상담 품질 향상을 위한 통계 분류 등의 작업을 돕는다. 이외에도 고객센터 업무 전반에 적용돼 업무 효율성이 더욱 증가할 것으로 보인다.
정민영 AI 플랫폼 담당은 "텔코LLM의 개발 상황을 미뤄볼 때, 6월 초쯤 마무리가 될 전망이며 연내에 고객 센터에 적용할 수 있을 것으로 예상하고 있다"고 말했다.
SK텔레콤은 통신사 운영의 다양한 영역을 기반으로 마케팅·유통망과 같은 고객 접점이나 법무, HR 등의 사내 업무까지 텔코LLM을 통해 업무 효율성을 높이겠다는 계획도 함께 밝혔다. 운용 중 발생하는 데이터 분석과 축적된 데이터 기반의 활용을 포함해 지속적으로 텔코LLM을 활용한 이용 사례를 늘려 나가겠다는 방침이다.
편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com
