(4) 책임·윤리 문제 어떻게
현장 이미 AI 사용 일상화됐지만
보이스피싱·시키지 않은 결제 등
사고 발생땐 책임소재 불분명
사람 위주의 법·제도 손질해야
금융권의 인공지능 전환(AX)이 가시화되면서 은행 업무 전반에 ‘책임 소재’ 문제가 불거질 전망이다. 인력이 심사·판단하던 영역을 AI가 대체할 경우 연체율 상승이나 부도 등 여신 사후관리에 대한 책임을 어떻게 질 것인지가 문제다. 은행권은 최종 책임은 임직원이 진다는 점을 분명히 하고 있으나 AI가 일상이 될수록 책임 소재가 흐려질 수 있다는 지적이 나온다. 급속도로 팽창하고 있는 AI 자산관리 시장이 금융권의 미래 먹거리로 부상한 만큼 제도 마련이 시급해보인다.
29일 금융업계에 따르면 주요 금융회사들은 여신심사부터 신용카드 발급, 보험료 산정 등 업무 전반에 AI 투입을 서두르고 있다.
이에 따라 AI의 특징 중 하나인 설명 불가능성에 대한 우려도 커지고 있다. 대출이 거절된 고객이 금융감독원에 민원을 넣거나 보험료 산정에 이의를 제기할 경우 AI로 검토한 과정을 근거로 제시하기 어려워서다.
A은행 관계자는 “이미 현장(영업점)에서는 AI 사용이 일상화돼 기업 공시자료와 재무현황 등 자료수집부터 기업대출 심사의견서 작성까지 AI가 도맡아 처리한다”며 “문제는 기업보다는 개인 고객인데 대출이 거절된 고객이 이의를 제기했을 때 발생한다”고 짚었다.
금융당국은 AI 알고리즘이 갖고 있는 데이터 편향과 오염, 환각(할루시네이션)이 특정 고객을 차별할 수 있다고 본다. 편향성이 대출 거절로 이어질 수 있다는 우려다.
금감원은 지난 5월 금융권 소비자보호 담당 임원(CCO)과 간담회를 열고 AI·디지털 금융 확산 과정에서 발생할 수 있는 소비자 피해 대응 방안을 마련하라고 지도했다. 차별 가능성 점검은 물론 챗봇 상담 과정의 선택권 제한, 딥페이크 기반 보이스피싱 위험까지 디지털 금융 전반의 리스크를 점검한 것이다.
금감원은 디지털 금융 환경 변화 과정에서 새롭게 등장하는 소비자 권익 침해 요인을 점검하고, 금융사의 대응 체계 강화를 주문했다. 금감원이 제기한 위험 요인은 △AI 편향·오류 위험 △알고리즘 기반 선택권 제약 △디지털 디바이드에 따른 금융소외 △IT 사고 발생 시 책임 불명확 및 피해구제 지연 등이다.
금융업계 관계자는 “이미 AI의 할루시네이션과 차별, 편향에 따른 민원이 제기되고 있다”면서도 “챗봇 상담이 더욱 쓸만해지기 위해서는 애매한 문제 혹은 민감한 문제에 대해서 모로쇠로 답하게 하는 지금의 수준을 뛰어넘어야 할 것”이라고 말했다. AI를 통해 자신의 대출한도와 금리를 추정해온 고객에게 AI로 여신심사를 진행한 뒤 거절하면 해당 고객은 다시 AI로 민원 방안과 근거를 마련해 따져 묻는 악순환이 벌어지는 것이다.
AI 에이전트의 지급·결제 과정에서 발생할 사고 문제도 거론된다. 현재 AI 에이전트 사고는 민법, 제조물책임법, 전자거래 관련 법리 등으로 사람이나 운영 주체에게 책임을 묻는 구조다. AI 에이전트가 ‘시키지 않은’ 결제를 했을 때 발생할 사고에 대한 책임을 누가 어떻게 질 지 입법 논의가 이뤄지고 있다. 금융위원회 유영준 디지털금융정책관은 “사용자가 AI 커머스 서비스를 이용할 때 AI 에이전트에 권한을 위임하는 방법 등에 대한 법적 검토를 진행 중이며, 신용정보법 개편도 같이 추진하고 있다”고 말했다.
금융권 관계자는 “AI 사용자가 카드번호부터 비밀번호 등을 사전에 알려줬다면 결제·인증·책임 문제가 어떻게 정리될 수 있는 지 현행법과 시행령에 구멍이 많다”면서 “결국 전통 지급결제망이 아닌, 스테이블코인 기반의 결제 시장이 열릴 것으로 보고 준비하는 기업이 많다”고 전했다.
[email protected]
박문수 기자
