KB국민은행, 4분기 ‘AI 거버넌스’ 구축한다

최근 카카오뱅크가 ‘인공지능(AI) 거버넌스’ 구축을 선포한 것에 이어 KB국민은행도 연내 이를 구축한다는 계획이다. 학계에선 AI 거버넌스 구축이 단순한 트랜드가 아닌, 국내 금융업계가 지향할 방향이라는 시각이다.

31일 KB국민은행 관계자는 스트레이트뉴스와의 전화통화에서 “금융분야에 인공지능 기술의 도입 및 활용이 확대되는 상황에서 KB국민은행은 올해 1월 AI 거버넌스 추진을 전담하는 팀을 신설했다”고 말했다.

AI 거버넌스는 대표이사와 이사회, AI 기술  최고책임자 등으로 구성된 사내 조직을 말한다. AI는 여러가지 생활의 편리함을 가져오는 반면 딥페이크 등 기술적인 악용이 생길 여지가 있다. 만약 AI 리스크가 발생할 경우 사내 AI 거버넌스는 해결방안을 고민하는 등 지배구조상 책임을 진다. 

이어 “관련 규정과 지침의 제정, AI 리스크를 효율적으로 통제 및 관리하기 위한 리스크 관리정책과 AI 서비스에 대한 평가 및 검증 기준을 수립해 올해 하반기 중 본격적으로 적용할 예정”이라고 밝혔다.

그는 “AI의 위험성과 금융소비자보호를 위한 투명하고 신뢰 가능한 환경 구축의 필요성에 대해 인식하고 있다”며 “2022년 10월 수립된 금융권 최초의 ‘AI윤리기준’을 바탕으로 보다 구체적인 ‘AI 거버넌스’ 체계 구축을 위해 노력하고 있다”고 덧붙였다.

오순영 KB국민은행 금융AI센터장은 21일 '2024 한국금융미래포럼' 토론회에서 “AI 기술에 대한 내부 조직의 수용력도 있어야 한다”며 “다양한 것들을 시도해보되 성공 사례와 인프라 등이 다 다르기 때문에 각자 가지고 있는 여건에 대해 다양하게 검토해봐야 한다”고 말했다.

카카오뱅크의 경우, 전날 지속가능경영보고서 공시를 통해 “AI 거버넌스를 구축했다”며 “이를 통해 기술 안정성을 확보하겠다”고 공개했다. 여기서 가장 중요한 핵심가치는 ‘은행 업계 규제 준수’와 ‘투명성 및 설명가능성 강화’ 부분이다. 

카카오뱅크는 “AI 거버넌스에 대한 요구사항들을 충족하고 이에 대한 개선의 의지를 반영하여 조직의 전략적 방향에 적합하도록 AI 거버넌스의 목표를 수립했다”는 입장이다.

이들은 “전사의 AI 활용현황을 분석해 ▲AI 기획·설계·개발 ▲평가·검증 ▲도입·운영·모니터링 등을 수행하는 팀을 AI 거버넌스 조직으로 구성하고, 역할과 책임을 정했다”고 밝혔다.

카카오뱅크는 2023년 10월 금융권 최초로 AI경영시스템(ISO·IEC 42001) 국제표준안 버전을, 2024년 1월 전환심사 후 최종 국제표준 버전을 취득했다.

ISO·IEC 42001 인증은 국제 표준화 기구(ISO)와 국제전기기술위원회(IEC)가 공동으로 제정한 AI 경영시스템에 대한 요구사항으로 AI 시스템과 관련된 역할을 책임있게 수행하도록 하는 것을 목적으로 한다. 

카카오뱅크는 올해 2월 AI 연구·개발 만을 위한 ‘AI 전용 데이터센터’를 개소하는 등 인공지능을 기반으로 한 금융 혁신을 강화해나가고 있다. 또한 신분증 인식’, ‘셀카 인증’ 등 인증 서비스, 신용평가 모형 개발, 금융사기 예방, 고객상담 등 다양한 분야에 AI를 적용하고 있다.

다른 경쟁 은행들도 윤리적 이슈를 고민한 AI 활동을 이어가고 있다. NH농협은행 관계자는 “▲AI챗봇·콜봇 ▲신용평가 ▲대출심사 ▲상품추천 등의 업무에 AI 기술을 적용·고도화 하고 고객서비스를 혁신하고 지능형문서처리(IDP)등의 도입해 직원 업무를 효율적으로 전환하고 고객들에게 보다 나은 서비스를 제공하고자 한다”고 말했다.

그는 “하지만 AI 기술의 발전으로 인해 다양한 이점이 발생함과 동시에, 프라이버시 등 리스크를 어떻게 관리하느냐가 중요한 요소”라며 “적극적인 AI도입에만 치중하는 것이 아닌, 책임감 있는 AI 사용을 위해 도입한 AI 거버넌스를 통해 '고객이 신뢰하는 매력적인 은행'이 되는 것이 목표”라고 설명했다. 

우리은행은 지난해 8월 AI윤리강령을 배포했고, 올해 3월 그룹 AI개발 및 활용 가이드라인을 제정했다.

우리은행 괸계자는 ”지주 주관으로 전 계열사 통합 대응 중“이리고 말했다.

신한은행 관계자는 “AI가 고객을 이해하고, 그에 맞춰 상품 및 기능을 안내하여 고객의 문제를 선제적으로 해결하도록 도와주는 AI 은행원을 지향한다”고 말했다.

인터넷전문은행 중 케이뱅크는 대주주인 KT와 함께 AI 관련 활동을 이어가며 관련 기술의 윤리적 가치도 함께 고려하고 있다. 토스뱅크는 인공지능을 통해 가짜 신분증을 찾아내는 등 보안도 강화 중이다. 

학계에선 “국내 금융업계의 AI 거버넌스 구축 움직임이 유럽연합(EU)의 인공지능 규제법(AI Act) 대비와 상관이 있는 것으로 보인다”는 시각이 있다.

카카오뱅크가 한국을 포함해 EU 등 해외의 AI 규제 트랜드에 선제적으로 대응하고 관련 법률과 지침을 준수하며 대내외적으로 신뢰할 수 있는 AI 서비스 활용 기반을 마련하기 위해 AI 거버넌스 체계를 구축했다는 것이다.

EU 의회가 올해 3월 13일 최종 승인한 AI Act는 ▲AI 시스템의 안전성 ▲투명성 ▲윤리성을 강화하기 위한 법적 규제다. 이는 특히 AI 기술이 인권, 안전, 투명성을 보장하도록 하는 것을 목표로 한다.

박정관 호서대학교 기술경영전문대학원 겸임교수는 “카카오뱅크가 EU 시민과 직접 거래할 가능성은 존재한다”며 “가령 해외에서 서비스를 제공하거나, 국제적인 금융 서비스를 확장하는 과정에서 EU 시민이 포함될 수 있다”고 말했다. 

이어 “이러한 상황에서 카카오뱅크는 EU의 AI Act 규제 대상이 될 수 있기 때문에 AI 거버넌스 체계 구축이 EU AI Act를 대비하는 것이라고 볼 수 있다”고 덧붙였다.

박 교수에 따르면, AI는 엄청난 성과와 위험을 동시에 가진 존재이다. 따라서 지속가능경영을 위한 가장 중요한 이슈는 기후변화에 대응하는 것 외에 AI 시대를 대비하는 것 역시 포함되어 있다. 

그는 “회사가 AI 거버넌스 체계를 선제적으로 구축함으로써 AI 활용으로 인한 성과 창출, 리스크 대비, 안전 등을 담보할 수 있다고 본다”며 “생성형 AI의 급속한 발전으로 얼마전까지 중요한 이슈였던 AI 윤리원칙이 큰 거버넌스 체계 중의 하나에 속하게 된 것이라고 이해하면 될 것”이라고 밝혔다.

그러면서 “이미 여러 금융회사들이 AI 거버넌스 체계를 구축한 것으로 보이고 이러한 움직임은 앞으로도 계속될 것”이라며 “금융사 외에도 AI 거버넌스 체계 구축은 계속 확대되고 있다”고 설명했다.

[스트레이트뉴스 조성진 기자]