AI 거버넌스 구축 나선 금융권…“일률적 규제보다 금융사별 자율체계 필요”

금융당국 명확한 기준 체계로 혁신 이끄는 역할
"과도한 규제 생산성과 혁신 걸림돌 될 수 있어"
주요 금융, 전담 조직·협의체 통해 거버넌스 확립

본 이미지는 AI로 생성된 이미지입니다.

AI(인공지능) 거버넌스 확립이 금융권의 최우선 과제로 떠오르는 가운데, 각 금융회사가 적합한 거버넌스를 스스로 구축하도록 해야한다는 제언이 나왔다. 지나친 규제가 금융권의 생산성과 혁신을 저해할 수 있는 만큼, 금융당국이 AI 활용에 필요한 최소한의 원칙과 기준을 명확히 제시하되 구체적인 관리체계는 각 금융회사의 자율에 맡겨야 한다는 취지다.

9일 서정호 한국금융연구원 선임연구위원은 '금융회사의 AI 거버넌스 구축을 위한 정책과제' 보고서에서 금융당국이 공정성, 투명성, 소비자 보호 등 AI 개발 및 활용과 관련된 핵심 원칙을 구체적으로 제시해야 한다고 강조했다. 규제의 모호성이 효과적인 통제와 혁신을 가로막는 걸림돌로 작용할 수 있어, AI 활용에 필요한 최소 요건을 명확하게 제시할 필요가 있다는 설명이다.

다만 규제 방식은 성과 중심 감독을 지향해야 한다고 짚었다. AI 활용 과정에서 발생할 수 있는 위험을 관리하면서도 과도한 사전 규제로 금융권의 생산성과 혁신을 위축시키는 것은 경계해야 한다는 것이다. 특히 AI 금융사고가 발생했을 때 사후적으로 책임자를 찾아 제재하는 방식에만 의존해서는 실효성 있는 AI 관리체계를 구축하기 어렵다고 지적했다.

구체적인 거버넌스 구축 방식은 금융회사 자율에 맡길 필요가 있다고 강조했다. 각 회사가 사용하는 AI 모델의 성격과 활용도가 다른 만큼, 일률적인 기준을 적용하기보다는 각 사가 적절한 관리 체계를 마련하도록 해야 한다는 것이다. AI 관련 의사결정 과정에서 책임 주체를 명확히 하고, 모델의 개발부터 운영·점검·폐기까지 전 과정에서 위험을 관리할 수 있는 체계를 갖추는 것이 핵심이라는 얘기다.

실제로 주요 금융그룹들은 전담 조직이나 협의체를 구성하는 등 자체적인 거버넌스 구축에 속도를 내고 있다. KB금융그룹은 주요 자회사인 KB국민은행에 'AI윤리위원회'를 설치하며 AI의 윤리적 활용과 의사결정 등을 수행하는 최고 의사결정기구를 뒀다. 지난 6월에는 '그룹 사이버보안센터'를 출범시키고 위험 항목을 31개로 구체화하는 등 통제 체계를 강화하고 있다. 신한금융 역시 AI 거버넌스를 구축해 계열사별 업무 특성에 맞춘 AI 위험관리 체계를 마련했다. 거버넌스의 최상위 기준으로 정확성과 안정성, 투명성과 설명 가능성, 고객 및 사회를 위한 가치 등 6개의 그룹 AI 기본 원칙을 수립했다.

하나금융은 '하나 AI 리더스 포럼'을 발족해 관계사별 임원들이 분기별로 만나 그룹의 AI 개발과 적용 관리의 효율화 등을 논의하고 있다. 그룹사를 포괄하는 AI 거버넌스와 최고 의사결정기구도 출범시킬 예정이다. 우리금융은 올해 4월 AI 거버넌스 수립과 관련해 외부 전문 용역을 통해 거버넌스 체계 설계 및 위험평가 프로세스를 구축한다는 방침이다. NH농협금융도 그룹 AI 거버넌스를 확립해 연내 완성한다는 계획이다.

서 연구위원은 "정책당국은 과도한 AI 규제가 금융 부문의 생산성 향상과 금융 혁신을 위축시키는 부작용을 낳지 않도록 유념할 필요가 있다"며 "가이드라인은 어디까지나 자율성을 전제로 한 연성규율(soft regulation)이므로 채택 방식도 각 금융회사에 맡겨야 하고, 단순히 이를 지키지 않았다는 이유만으로 제재한다거나 하는 일은 없어야 한다"고 말했다.