금융권 인공지능(AI) 자율규제 체계가 최근 마련되며 각 금융회사별 AI 도입 논의도 급물살을 타고 있다. 다만 금융회사의 경우 잘못된 판단이 고객 손실로 직결되며, 민원 및 제재로 이어진다는 점에서 고민도 지속되고 있다.

생산성 향상이라는 면에서 금융회사 역시 AI 도입을 미룰 수 없지만, 규제ㆍ감독 체제는 물론 인프라도 부족하단 평가다. 금융회사는 물론 금융회사를 고객으로 삼으려는 관련업계의 눈치싸움이 치열해지는 가운데, 금융당국이 하반기 출범시킬 태스크포스(TF)를 통해 어떤 방향성을 제시할 지 관심이 모인다.

금융위원회는 22일부터 '금융분야 인공지능 가이드라인'을 시행한다고 밝혔다. 이번 가이드라인은 AI 확산에 맞춘 첫 자율규제 체계안으로, 거버넌스ㆍ합법성ㆍ신뢰성 등 모든 금융회사가 준수해야 하는 7대 원칙을 담았다. 

이와 함께 2013년 망분리 규제 도입 이후 처음으로 신한은행ㆍ하나은행ㆍ우리은행ㆍKB증권ㆍ미래에셋증권 등 10개사를 대상으로 망분리 규제를 전격 완화키로 했다. 내부 전산망과 외부 인터넷망을 완전히 분리 운용해야 했던 규제가 풀리며, 금융회사도 생성형 AI 등 외부 AI 서비스를 자사 서비스와 연계할 수 있게 됐다.

한 은행 관계자는 "그간 AI는 주로 콜센터 등 일부 대고객 업무에 비용 절감을 목적으로 도입하는 것이 전부였고, 낮은 퀄리티로 인해 오히려 민원의 주 원인이 되기도 했다"며 "앞으로는 여신ㆍ심사ㆍ보안 등 핵심 업무는 물론 상품 기획 등 고부가가치 업무에도 AI를 투입할 수 있게 되며 기대감이 커지고 있는 게 사실"이라고 말했다.

다만 이번 가이드라인은 자율규제 체계를 만들었다는 데 의의가 있을 뿐, 실체적인 방법론 면에서는 아직도 빈 부분이 많다는 평가다. 민간에서 논의를 거치고 이를 관에서 수렴해 제도화해야 하는데, 민간에서의 논의도 이제 막 시작된 상황이다.

한국핀테크산업협회와 핀테크AI협의회는지난  23일 박상일ㆍ이강일 국회의원과 함께 AI 금융 관련 포럼을 개최했다. 이 자리에서는 주로 규제와 제도에 대한 논의가 오갔다.

이날 포럼에서 채상미 이화여대 교수는 "금융 AI를 허용할 것이냐가 중요한 게 아니고, 어떻게 위험을 찾아내고 검증해서 빠르게 산업이 AI를 적용할 수 있도록 할 것이냐가 질문"이라며 "금융 AI 정책을 IT 부서 하나의 문제로 봐서는 안 되고 금융회사 운영 체계와 감독 체계의 문제로 봐야 한다"고 지적했다.

강현정 김앤장 변호사는 "이번 가이드라인은 법령은 아니지만 실질적으로 앞으로 금감원 검사나 감독의 기준이 될 가능성이 크다"며 "내부 위험관리 체계를 갖추지 않은 상태에서 AI를 활용하는 경우 내부통제가 부실하다거나 위험관리를 소홀히 했다는 지적을 받을 가능성이 있다"고 짚었다.

24일에는 글로벌 컨설팅펌 커니가 주최한 '비욘드 AI' 포럼이 열렸다. 이 자리에서는 기업이 AX(AI 전환)전략을 추진함에 있어 어떤 부분에 중점을 둬야 하는지에 대한 논의가 이뤄졌다.

이날 포럼에서 금융 부문 발제를 담당한 김우석 커니 부사장은 "금융의 경우 신용손실ㆍ불완전판매ㆍ민원 등으로 리스크 요인이 사후에 크게 발현되는 특징이 있다"며 "맥락ㆍ책임ㆍ예외 판단이 얽혀 사람이 수행하던 핵심 업무를 AI로 대체하는 데 난이도가 높다"고 지적했다.

다만 이런 난점에도 불구, ▲만들어 놓은 상품이 아니라 고객 상황에 맞춘 솔루션을 판매할 수 있고 ▲확률 기반 통계에서 고객별 신호를 바탕으로 한 초개인화가 가능하며 ▲고객의 리스크와 자산을 주기적이 아닌, 실시간으로 조정할 수 있다는 점에서 AI가 금융업의 사업모델을 근본적으로 바꿀 것이라고 내다봤다.

이어 금융부문에서 AI를 선도하고 있는 알리안츠ㆍ악사ㆍ싱가포르개발은행(DBS)의 사례를 기반으로 설계 단계부터 비즈니스와 리스크, 통제를 반영할 것과 AI가 자동수행할 영역과 사람 승인이 필요한 영역의 경계를 처음부터 명확히 구분할 것을 권고했다.

 국내 금융회사를 타깃으로 한 글로벌 SaaS(서비스형 소프트웨어) 업체들의 진출도 본격화했다. API 보안 부문 글로벌 최대 보안업체인 F5네트웍스는 23일 국내에서 간담회를 열고 AI 시대 보안 리스크에 대해 설명하는 자리를 가졌다. 이날 F5네트웍스는 국내 금융권이 주요 고객군이며, 현재 20곳 이상과 개념 검증등을 진행하고 있다고 밝혔다.

금융당국은 일단 가이드라인을 통해 '거버넌스 책임'에 방점만 찍어둔 상황이다. AI 위험관리를 위해 독립된 최고 의사결정기구를 설치하고, 해당 조직의 수장이 이사회 및 최고경영자에게 정기적으로 보고할 것을 의무화한 것이다. 최종 의사결정의 책임 역시 AI가 아니라 임직원이 지도록 명시하기도 했다.

이후 방향성과 관련, 금융당국은 하반기부터 TF를 통해 제도개선 필요사항 및 리스크 관리 방안, AI에이전트 등 시범사업 운영 방안 등 세부 과제를 검토해 나가겠다는 계획이다. 

한 금융권 관계자는 "금융당국의 입장은 '어떤 방향으로 갈진 좀 더 지켜봐야 하지만 책임은 CEO와 이사회가 진다는 건 우선 명확히 하겠다'에 가깝다"며 "고객의 금융 정보는 대부분 민감 정보라 AI 활용 단계별로 리스크가 불거질 수 있어 일단은 '어디까지 어떻게 갈지' 내부적으로 목표를 설정하는 데 집중하고 있다"고 말했다.