네이버, 'ASF 2.0' 공개…이용자 안전성 점검 범위 확대

네이버가 인공지능(AI) 안전성 체계 'AI 세이프티 프레임워크 2.0(이하 ASF 2.0)'을 공개했다. ASF 2.0은 기존 ASF의 안전성 관리 범위를 확대하고 사용자 서비스를 중심으로 안전성을 관리하는 것이 핵심이다.
8일 네이버는 서울시 강남구에서 개최된 인공지능안전 서울 포럼(SFASS)을 통해 ASF 2.0의 방향성과 구성요소, 강화된 분류·관리·실행 체계, 향후 활동 계획을 공유했다.

발표에 나선 송대섭 네이버 AI 세이프티 폴리시 리더는 "AI를 둘러싼 기술과 서비스 및 정책과 제도 환경이 변화하고 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할지 문제로 확장되고 있다"고 말했다. 이어 송 리더는 네이버 ASF 2.0에는 △AI탭, 쇼핑 AI 에이전트 등 고도화 중인 네이버 ‘온-서비스 AI’ 전략 △글로벌 AI 생태계에서의 멀티 모델 환경의 확산 △AI기본법 제정 등과 같은 정책·제도 환경의 변화 등이 다각적으로 반영되었다고 부연했다.

ASF 2.0은 AI를 이용자와 서비스 관점에서 안전하게 관리하는 것을 목표로 AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리한다. 이를 위해 기존 AI의 기술 모델을 중심으로 삼았던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장하고, 성능 중심의 단일 평가 기준은 맥락과 활용사례, 영향으로 세분화했다.
구체적으로 △AI 위험 분류 체계에 따라 AI 서비스에서 발생할 수 있는 위험 유형화 △AI 영향 평가 매트릭스에 따라 활용 영역 및 범위에 따른 예상 영향 평가 △해당 체계를 바탕으로 지속적인 안전성 평가와 사용자 피드백 등을 통해 이용자들이 AI 서비스를 지속적이고 안전하게 쓸 수 있도록 관리하게 된다.

네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 돕는 전사적 실행 체계 ‘CHEC 2.0’을 마련하기도 했다. 지난 6월 선보인 AI탭에도 CHEC 2.0을 통해 설계부터 출시 단계에 이르는 모든 과정에서 AI 안전성을 점검했다. 네이버는 AI 탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속 점검해 나가겠다는 방침이다.


이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com