About
home
금융기술연구소
home

AI 규제 동향과 카카오뱅크 AI 거버넌스

게시일
2024/05/31
담당자
Mansik Kim
Hyungeun Lee
Daehee Han
Yeeun Yoo
2 more properties
Contents

금융권 AI 도입 가속화와 규제 대응

모든 산업에서 AI 도입이 가속화되고 있는 가운데, 범국가적 규제 준수와 기술적으로 안정성과 투명성을 확보하는 문제도 같이 중요해지고 있습니다. 금융 산업에서는 고객 응대와 간단한 상담을 해주는 AI 행원이 시중은행 지점에 등장했고, 증권사는 해외주식 정보를 실시간으로 요약해 주는 서비스나 버추얼 애널리스트가 투자 상품을 추천해 주는 서비스를 앱에 탑재했습니다. 이러한 신기술 도입은 정확하고 책임질 수 있는 정보 전달과 고객 보호를 충분히 고려했는지에 대한 법률 검토가 필요하며, 기존 법체계가 새로운 사회 현상과 위험 요소를 온전히 반영하지 못했을 경우 새로운 입법이 이뤄지게 됩니다.
올해 3월 유럽연합 본회의를 최종 통과한 AI법(EU Artificial Intelligence Act)은 AI가 초래할 수 있는 위험을 광범위하게 검토하고 위법 사항에 강도 높은 제재를 채택했다는 점에서 주목을 받았습니다. 유럽연합의 입법 방향성은 익히 알려져 있었고 개별 기업마다 AI 윤리 측면에서 고객 권리 보호와 서비스 안정성 확보를 자율적으로 준비해 왔으나, AI법 시행으로 강제성이 생긴 만큼 더 탄탄한 대비가 필요해진 것입니다. 카카오뱅크도 지난 1월 ‘오늘의 mini 일기' 서비스 출시하고 AI실 조직을 신설하면서 사내외 서비스들과 AI 접목을 전방위적으로 검토하고 있기에, 국내외 AI 규제 동향을 살펴보고 관련해서 대응해 온 과정을 소개해 보고자 합니다.

유럽연합(EU) AI법

전통적으로 유럽연합은 기업의 독점, 지위남용, 차별과 같은 불공정 행위에 엄격한 규제와 강력한 처벌을 유지해 오는 입장입니다. AI도 기술 우월성에 가려진 잠재 위험을 최대한 예방하고 특정 기업이 시장 질서를 왜곡하는 데 사용할 수 없도록 포괄적 규제가 필요한 대상이 되었습니다. 유럽연합 AI법은 착수 시점도 빠르지만 중간 수정 절차로 생성형 AI처럼 갑자기 급부상한 기술 이슈까지 포함시켰다는 점에서 체계적 완성도를 높였습니다. <유럽의회 - 집행위원회 - 이사회> 3자 간 합의 과정을 보면 규제 강도를 높이는 것에만 초점을 맞추지 않고, 유럽 스타트업들이 미국과 중국 기업들과 혁신 경쟁에 뒤처지지 않도록 하기 위해 불공정한 계약 조건의 구속력을 완화해 주는 등 고민한 흔적도 엿볼 수 있습니다.
3년간 협의를 거친 유럽연합의 최종안은 안보 위협이 명백하지 않다면 인간 기본권 보호 원칙을 최우선으로 꼽고 있습니다. AI 기술 남용이 예상되는 업무나 서비스는 4가지 위험 수준에 따라 적합성 평가와 신뢰성 / 투명성(설명가능성, 사전 고지 등)을 확보하는 보호장치를 의무화하고, AI 사용을 원칙적으로 금지(수인 불가 위험)하는 분야도 지정했습니다. 금융사 입장에서는 신용평가, 대출 심사, 보험 요율 산정과 같은 핵심 업무에 대한 AI 적용이 고위험 영역으로 분류될 수 있다는 점에서 각별한 주의가 필요해졌습니다. 2년 유예기간 후 2026년부터 본격적 효력이 예상되는 만큼 유럽 시장이 중요한 기업들은 빠른 시일 내에 대책 마련이 필요하며, 우리나라를 포함한 많은 국가들이 유럽연합 AI법을 참고하여 규제를 준비하고 있기에 영향력은 점차 더 커질 것으로 보입니다.

미국 AI 행정명령과 AI 위험관리 프레임워크

미국은 빅테크와 스타트업의 혁신 기술 육성을 장려하고자 유럽연합에 비해 기업별 자율성을 적극 존중하는 입장을 취하고 있습니다. 연방 정부 차원 포괄적 규제는 아직까지 나오지 않았으며, 법률 제정보다 AI 기업들이 자율적으로 준수할 수 있는 표준 지침 마련에 집중하는 모습입니다. 반면, 기업이 아닌 공공 행정기관을 대상으로 한 AI 규제는 2023년 10월 백악관의 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’을 통해 한층 강화되었습니다. 미국 각 정부 기관은 매년 활용하고 있는 AI 분야 및 내용, 가능한 부작용 내역을 공개해야 하고 안전장치 마련이 부족한 경우 AI 사용을 중단해야 합니다. 지난 3월 백악관 예산관리국은 연방기관들 마다 최고AI책임자(Chief AI Officer, CAIO)를 임명해 공공 업무에 AI 사용을 관리하고 책임지도록 요구하는 정책을 발표했습니다. 이외에도 캘리포니아 주, 뉴욕시, 콜로라도 주, 일리노이 주처럼 주 정부 차원에서 채용 절차나 생명보험사의 자동심사 알고리즘 규격 등 세부 업무 별로 AI 규제 법제화가 활발히 논의되고 있습니다.
기업이 AI 관련 자율 통제와 내부 규범을 수립하는데 참고할 만한 대표적인 지침은 미국 국립표준기술연구소(NIST)에서 2023년 1월에 발표한 AI 위험관리 프레임워크(AI RMF : AI Risk Management Framework)입니다. 이는 AI 시스템의 설계, 개발, 사용단계에서 발생할 수 있는 위험을 사전에 식별하여 평가하고 해결하기 위한 절차 제공합니다. 다만 강제성 없는 지침이어서 지켜지지 않았을 때 불이익은 없으며, 프레임워크가 발표된 이후 각광을 받은 생성형 AI가 아직 반영되지 않았습니다. 때문에 앞서 언급한 주 정부들은 AI 규제 법안을 제정할 때 AI RMF 참조 후 강제 이행 방안을 덧붙여 입법을 추진하고 있습니다.
[표] 유럽연합과 미국 규제 차이\textsf{[표] 유럽연합과 미국 규제 차이}
구분
유럽연합
미국
위험 분류 체계
규범적 위험분류 체계
규범적 분류 지양
금지된 AI
수인불가위험 AI 시스템 규정
-
주요 규제 대상
고위험 AI, 범용 AI
-
범용 AI에 대한 태도
주요 규제 대상 포함
-
위반시 제재 사항
O
-

국내 금융위원회와 금융보안원 가이드라인

국내는 과학기술정통부 주관으로 AI법 제정이 추진되고 있으며 한국정보통신기술협회(TTA)와 함께 기업들이 자율적으로 AI 신뢰성을 검증할 표준 지침도 만들었습니다. 2023년 2월 국회에 제출된 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률'은 AI 시스템 별 위험 수준을 구분해 신뢰성 확보 조치를 요청하는 측면에서 전반적으로 유럽연합과 유사한 형태를 띠고 있습니다. AI 사용 금지 분야 지정이 빠졌고 위반 시 제재 요소가 없는 점이 차이여서 진흥법 성격을 가지고 있습니다. 21대 국회에서 최종 의결을 받지 않았기에 22대 국회에서 더 보완된 수정안이 제출될 것으로 예상됩니다.
금융위원회는 과학기술정통부 법안과 표준 지침을 바탕으로 금융 산업에서 AI를 적용 할 때 주의사항을 구체적으로 정의하고 있습니다. 금융위원회 주도로 2021년부터 ‘금융분야 AI 가이드라인‘과 ‘금융분야 AI 개발·활용 안내서’가 연달아 발표됐고 2023년에는 금융보안원을 통한 ‘금융분야 AI 보안 가이드라인’ 제공하는 등, 법안은 아니어도 금융사들에게 그에 상응하는 지침을 전달해 왔습니다. 조만간 공개될 ‘금융분야 설명가능한 AI 안내서’는 기존 신용정보법, 개인정보보호법과 연계해 AI 서비스 이용 고객들의 권리 강화를 위한 기술 요건이 담길 예정이며, 올해 3월에는 학계와 업계까지 포함한 금융권 AI 협의회가 발족되었습니다.

AI 거버넌스 및 XAI 연구과제

기업 입장에서는 혁신적 AI 서비스를 하루라도 빨리 출시하고 싶지만, 전적으로 고객 입장에서 안전하고 완성도를 보장할 수 있는 안전장치를 마련하는 것도 놓칠 수 없는 중요 과제입니다. 이를 위해 최근 기업들이 구축하고 있는 AI 거버넌스는 외부 규제 요건을 대응하면서 AI 서비스 개발 시 필요한 의사결정 과정을 체계화한 것으로, AI생애주기(기획·설계, 개발, 평가·검증, 도입·운영·모니터링)를 정의해 위험 관리를 효과적으로 하는 것이 목표입니다. 카카오뱅크는 금융 분야 AI 거버넌스를 선도해 나가고자 2023년 11월 금융권 최초 ISO/IEC 42001(인공지능시스템) 국제인증 취득을 해낸 바 있습니다. 올해부터는 AI 거버넌스를 업무에 적용해서 기존 AI 모델별 위험도를 산출하고 주기적 보고하는 절차를 시작했습니다.(카카오뱅크 2023 지속가능경영보고서)
더불어 금융기술연구소에서는 AI 서비스별 위험 수준 정량화와 설명가능한 알고리즘 최적화를 위해 카이스트와 산학협력으로 연구과제를 진행하고 있습니다. 이번 공동연구를 통해 변화하는 AI 규제 동향을 파악하고, AI 서비스 성능 개선에 필요한 핵심 기술 확보에 역점을 두고 있습니다. AI 규제와 연관된 설명가능한 AI(XAI : eXplainable AI) 동향과 카카오뱅크가 주력하고 있는 세부 연구 주제는 다음 기회에 정리해 보도록 하겠습니다. XAI 기본 개념과 은행 업무를 비롯한 적용 가능한 사례에 대한 설명은 카카오뱅크 기술블로그 ‘인공지능, 너 이 문제 내 가설로 푼 거 맞니? : XAI 활용기’에서 먼저 확인할 수 있습니다.

카카오뱅크 금융기술연구소

Financial Tech Lab
Copyright ⓒ KakaoBank Corp. All rights reserved.