은행이 AI를 업무 곳곳에 들이면서 또 다른 고민이 따라붙었다. AI가 잘못된 판단을 내린다면 그 피해는 고스란히 고객에게 돌아간다. 이를 해결하기 위해 최소한의 가이드라인을 잡아 두는 'AI 거버넌스'가 금융권의 과제로 떠올랐다.

대형 금융지주들은 규제에 발맞춰 거버넌스 정비를 대체로 마쳤다. 윤리원칙을 세우고 의사결정기구와 전담조직을 꾸렸다. 다만 틀을 갖추는 것과 제대로 굴리는 것은 다르다. 형식을 넘어선 실효성 확보가 중요한 시점이다.

◇커지는 AI 역할…법 규제도 발맞춰 등장

당국이 요구하는 거버넌스는 윤리강령 한 장으로 끝나지 않는다. 올해 1월 시행된 인공지능기본법(AI 기본법)을 비롯해 여러 규제 가이드라인이 나왔다. 금융위원회의 금융 AI 7대 원칙, 금융감독원의 AI 위험관리 프레임워크(AI RMF) 등이 금융사의 AI 운영 골격이 된다.

당국은 AI 거버넌스 수립을 요구했다. AI를 기획·개발·운영하는 전 과정에서 생길 수 있는 위험을 평가하고 관리하는 체계다. 거버넌스에서 가장 우선시되는 건 AI 도입을 심의·의결할 최고 의사결정기구다. AI 윤리위원회가 대표적이다.

개발 조직과 분리된 독립 위험관리 전담조직도 둬야 한다. 윤리기준을 근간으로 한 내규와 업무매뉴얼, 서비스별 위험등급을 매기는 평가 체계까지 갖춰야 한다.

특히 대출심사처럼 고객의 권리와 의무를 가르는 '고영향 AI'는 더 깐깐하게 다뤄야 한다. AI 기본법은 이런 영역에서 사람이 반드시 개입하도록 했다. AI가 내린 권고를 담당자가 뒤집을 수 있는 권한, 이상이 생기면 즉시 멈추는 긴급정지 장치가 의무다.

불과 작년까지는 금융사의 거버넌스 구축이 미흡했었다. 금감원이 지난해 4월 은행 20곳을 들여다본 결과 AI 의사결정기구를 둔 곳은 5곳뿐이었다. 나머지는 윤리원칙이나 위험관리 기준조차 마련하지 못했다. 지적이 나오자 금융지주는 부랴부랴 미흡점을 개선해 AI 거버넌스 체계를 수립했다.


◇앞다퉈 체계 갖춘 금융지주…모범사례 요구 받는다

법 시행 전부터 이미 체계를 완성해 둔 곳도 있다. KB금융이 대표적이다. 국민은행을 중심으로 2022년부터 준비해 지난해 3월 체계를 완성했다. 은행은 최고 의사결정기구인 AI윤리위원회를 설치했고 별도의 위험관리 전담조직이 정책 수립과 서비스 승인·모니터링을 맡는다. 지주 역시 윤리강령을 대외 공표해 뒀다.

농협은행도 빠르게 채비를 갖춘 곳에 속한다. 일찍이 AI 거버넌스 협의회를 설치했고 최고책임자는 디지털 부행장이 맡는다. 외부 자문을 받아 내부 가이드라인도 마련했다. 지주 차원에서도 지난달부터 그룹 표준 AI 거버넌스 체계 정비에 착수했다. 신한, 하나, 우리 등 다른 금융지주도 내부적으로 윤리강령을 만들고 거버넌스 체계를 손질하는 데 집중하고 있다.

이처럼 AI 기본법 시행을 앞뒀던 지난해 말을 기점으로 대형 금융지주는 대체로 AI 거버넌스 틀을 갖췄다. 하지만 업계서는 규칙의 실효성을 입증하는 게 더 중요한 작업이 될 것이라고 입을 모은다. 진짜 숙제는 지금부터라는 뜻이다. 실무, 영업부서의 개입 없이 윤리원칙을 고수하면서 고위험 요소를 사전에 탐지하고 사고를 방지해야 한다는 의견이다.

당국의 모범사례에서 해답을 찾을 수 있다. 사람이 개입할 기준을 세우고 이상이 생기면 즉시 멈추는 긴급정지 장치를 둬야 한다. 대출심사 등 과정에서 AI의 권고를 담당자가 뒤집고 그 근거를 기록으로 남기는 절차를 남기는 방향의 예시가 제시됐다.

금융권 관계자는 "AI 거버넌스는 AI를 더 빠르고 안전하게 쓰기 위한 안전장치라고 생각한다"라며 "체계를 갖춘 다음 현장에서 제대로 작동하는지 확인하고 관리하는 게 새로운 리스크 관리 및 소비자보호 과제가 될 것"이라고 말했다.