이미지 확대보기AI 기술이 급격하게 발전함에 따라 금융산업의 다양한 분야에서도 AI가 활용되고 있다.
로보어드바이저, 상담 챗봇 및 머신러닝 기반의 상품추천 등 AI 기반 서비스가 확산되면서 고객들은 더욱 편리한 금융 서비스를 이용할 수 있게 되었다. 그러나 이와 동시에 AI 알고리즘의 편향성, 고객 정보의 오남용, 부당한 차별 등 새로운 위험 요소가 발생하는 문제점이 있다.
이에 KB증권은 AI 기술 및 법률 전문성을 보유한 삼성SDS, 김ᆞ장 법률사무소, 삼정KPMG 등 전문업체의 컨설팅을 통해 AI 기술 활용 과정에서 발생할 수 있는 윤리적, 법적 문제와 AI 학습 데이터/모델의 위험 요인을 사전에 식별해 방지하며, 고객에게 신뢰할 수 있는 AI 금융 서비스 제공을 목표로 'AI 거버넌스 체계'를 수립할 예정이다.
'AI 거버넌스 체계'의 수립 목표는 AI 개발 및 활용 과정에서 인간의 존엄성, 공정성, 다양성 등을 존중할 수 있는 윤리 원칙 수립 및 준수체계를 마련하고, 효율적인 AI 시스템 개발을 위한 사내 규정을 체계화하는 것이다.
실무 부서에서 AI 관련 시스템/서비스 도입 검토 시 검토 방법 및 AI 활용 위험 감소방안을 사전에 검토할 수 있도록 AI 업무 매뉴얼을 제시하고, AI 서비스별 위험도를 측정하여 산출된 위험수준별 관리 및 모니터링 정책을 수립할 예정이다.
KB증권은 정부 및 감독기관의 AI 관련 규제가 시행되기 전에 앞서 선제적으로 관리 체계를 구축함으로써 AI를 활용해 발생할 수 있는 리스크를 예방, 관리하여 소비자 보호에도 힘쓸 계획이다.
특히, AI 기술 남용으로 인한 고객 피해 예방에 대한 강조는 금융소비자들이 안심하고 금융 서비스를 이용할 수 있도록 하는데 기여할 것으로 기대한다.
이와 더불어 이번 'AI 거버넌스 체계'의 선도적 수립은 금융업계 전반의 AI 활용에 대한 신뢰를 높이고 국내 금융 시장의 경쟁력 강화에도 기여할 것으로 전망한다.
또한, 급속도로 발전하는 AI 기술환경 하에서 창의적이고 다양한 AI 기반 서비스 개발 시 발생할 수 있는 위험 경감 및 사고 예방 가능한 체계적인 가이드를 제시하여 적극적인 AI 기술 활용을 유도할 수 있을 것으로 보인다.
KB증권 하우성 디지털사업총괄본부장은 "AI의 역할이 나날이 커져가고 있는 가운데 'AI 거버넌스 체계'를 금년 내 선제적으로 구축하여 책임감 있는 AI를 도입할 계획"이라며 “고객의 신뢰를 바탕으로 AI 기술을 선도하는 KB증권이 되기 위해 최선의 노력을 다하겠다"고 밝혔다.
금융투자상품은 투자 결과에 따라 원금손실이 발생할 수 있으며, 이는 투자자에게 귀속된다.
김성용 글로벌이코노믹 수습기자 0328syu@g-enews.com
