KB국민은행, AI 윤리·위험관리 체계 구축…신뢰 기반 금융 혁신 박차

[녹색경제신문 = 박금재 기자] KB국민은행이 AI(인공지능) 기술을 보다 신뢰할 수 있도록 활용하기 위해 체계적인 AI 거버넌스를 수립했다. 금융권에서 AI의 활용이 증가함에 따라 윤리적·법적 책임과 리스크 관리의 중요성이 커지고 있는 가운데, KB국민은행은 AI의 신뢰성과 투명성을 확보하는 데 초점을 맞춘 관리 체계를 마련해 금융 혁신을 선도하겠다는 방침이다.

AI 거버넌스란 AI 서비스의 공정성과 안전성을 보장하고, 윤리적 책임을 다하기 위한 관리 체계를 의미한다. KB국민은행은 AI 기술이 금융 서비스 전반에 걸쳐 확산되는 과정에서 발생할 수 있는 리스크를 사전에 방지하기 위해 2022년부터 거버넌스 구축을 준비해 왔다. 이를 통해 AI 활용의 가이드라인을 명확히 하고, 금융소비자 보호를 위한 기준을 정립했다.

KB국민은행의 AI 거버넌스는 ▲AI 윤리기준 및 조직문화 ▲위험평가 프레임워크 ▲생애주기별 위험관리 정책 ▲금융소비자 보호 등 4가지 핵심 요소로 구성됐다. 이를 기반으로 AI 기술이 개발·운영·폐기되는 모든 과정에서 윤리성과 투명성을 확보하고, 금융 소비자들의 신뢰를 높이겠다는 목표다.

특히, ‘AI 윤리기준’은 안전하고 신뢰할 수 있는 AI 기술을 도입하기 위해 모든 임직원이 준수해야 할 원칙을 명확히 규정했다. KB국민은행은 임직원 대상 정기적인 AI 윤리 교육을 실시하며, AI 개발자들에게는 별도의 윤리 가이드 교육을 통해 책임 있는 AI 기술 개발을 강조하고 있다.

위험평가 프레임워크도 핵심 요소 중 하나다. KB국민은행은 AI 서비스가 가진 잠재적인 위험 요소를 사전에 평가하고 관리할 수 있도록 위험도를 ▲허용불가 ▲고위험 ▲중위험 ▲저위험 등 4단계로 구분했다. 이 중 고위험으로 분류된 AI 서비스는 보다 강화된 심사 및 관리 방안을 적용받으며, 허용불가 등급의 AI 서비스는 기본권 침해 또는 금융시장 건전성을 해칠 가능성이 있는 만큼 도입 자체가 제한된다.

또한, AI 서비스가 기획·개발·운영·폐기되는 전 과정에서 체계적인 위험관리 정책이 적용된다. AI 서비스의 모든 단계에서 ▲위험 요소 검토 ▲데이터 신뢰성 및 편향 점검 ▲모델 성능∙공정성 평가 ▲정기적인 모니터링 및 개선이 이뤄지며, 이를 통해 윤리적이고 안전한 AI 서비스 구축을 목표로 한다.

금융소비자 보호 조항도 강화됐다. KB국민은행은 AI 서비스가 고객과 직접적으로 맞닿아 있는 만큼 AI 활용 사실을 사전에 고지하고, 고객이 AI 서비스를 거부할 수 있는 권리를 보장하기로 했다. 또한, AI 기반 금융 서비스에 대한 설명 의무를 강화하고, AI로 인해 발생할 수 있는 민원 및 피해 구제 절차도 명확히 마련했다.

이와 함께, KB국민은행은 AI 거버넌스의 실효성을 높이기 위해 ‘AI윤리위원회’를 신설했다. 이 위원회는 고위험 AI 서비스 승인, 윤리기준 및 위험관리 정책 수립 등을 담당하며, AI 기술이 윤리적이고 책임감 있게 활용될 수 있도록 관리·감독하는 역할을 수행한다.

KB국민은행 관계자는 “AI 거버넌스는 지속 가능한 AI 기술 도입과 금융소비자 보호를 동시에 실현하기 위해 마련된 체계”라며 “향후 AI 기술이 금융 서비스 전반에서 더욱 중요한 역할을 하게 될 것으로 예상되는 만큼, AI 거버넌스를 기반으로 신뢰할 수 있는 금융 혁신을 주도해 나가겠다”고 말했다.

KB국민은행의 이번 AI 거버넌스 도입은 금융권 전반의 AI 활용 기준을 정립하는 데도 긍정적인 영향을 미칠 것으로 예상된다. AI 기반 금융 서비스가 확산되는 가운데, KB국민은행이 제시한 윤리적 원칙과 위험관리 체계가 금융업계의 새로운 표준으로 자리 잡을 수 있을지 주목된다.