LG U+, 국제무대서 AI 신뢰성 검증 나선다

LG유플러스(이하 LG U+)가 모바일월드콩그레스(MWC) 기간 중 진행되는 '글로벌 AI 레드팀 챌린지'에 참가해 자사 생성형 인공지능(AI) 기술력을 입증에 나선다고 19일 밝혔다.
LG U+는 이번 챌린지에 자체 개발한 통신 특화 AI 모델 '익시젠'을 출품해 실제 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응력을 점검한다. 챌린지에는 약 100명의 참가자가 ‘레드팀’ 역할로 참여해 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로 진행된다. 이번 레드팀 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책·안전 장치를 우회할 수 있는지를 검증한다.

참가자들은 △안전장치 우회 △편향·차별 △인권 침해 △사이버 공격 △불법 콘텐츠 △허위정보 △응답 비일관성 등 7개 카테고리에서 AI의 대응 수준을 평가한다. 특히 이번 챌린지는 AI 응답의 정확성 여부가 아닌 ‘해서는 안 되는 응답을 했는지’ 여부를 성공 기준으로 삼는 평가 방식을 적용한다. 예를 들어 불법 행위나 인권 침해와 관련한 정보가 실제로 부정확해도 AI가 해당 정보를 제공했다면 취약점으로 인정된다. 이는 생성형 AI가 초래할 수 있는 간접적·잠재적 위험까지 점검하기 위한 취지다.

챌린지는 총 180분 동안 라이브 방식으로 진행되며, 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 내 최대한 많은 미션을 성공시키는 것이 목표다. 각 결과는 3명의 심사위원이 주관적으로 평가하며, 성공 미션 수와 성공률을 기준으로 순위가 결정된다.
LG U+는 이번 글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고 챌린지를 통해 확인된 취약점을 바탕으로 AI 모델을 지속적으로 고도화할 계획이다. 또한 글로벌 통신사 및 AI 전문가들과의 교류를 통해 AI 보안과 책임 있는 활용을 위한 논의를 확대해 나갈 방침이다.

이혜진 LG U+ 기술전략담당은 “AI가 통신과 고객 서비스 전반에 빠르게 적용되는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다”며 “글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다”고 말했다.

한편 이 챌린지는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램이다. 해당 챌린지는 MWC와 공식 공동 개최되는 개발자·디지털 인재 행사 ‘탤런트 아레나 2026’의 핵심 프로그램 중 하나로, 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 검증이 이뤄진다.


이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com