home
About
home
금융기술연구소
조직 구성
주요 연혁
우리의 연구
주요 성과
연구 스토리
연구 협업 제안
언론 보도
카카오뱅크 >
기술블로그 >
home

목록보기

Contents

EMNLP & NeurIPS 2024, 그리고 우리의 연구

2024년은 인공지능 및 자연어처리 분야에서 혁신적인 연구가 쏟아진 한 해였습니다. 특히 EMNLP와 NeurIPS는 전 세계 연구자들이 최신 기술과 아이디어를 공유하는 대표적인 학회로, 금융 산업에서의 AI 활용 가능성 역시 한층 넓어진 것을 확인할 수 있었습니다.
카카오뱅크 금융기술연구소는 2024년 11월과 12월에 진행된 EMNLP와 NeurIPS 학회에 직접 참가하여, 연구 성과를 발표했습니다. 또한, 글로벌 연구 동향을 파악하고 카카오뱅크의 연구 방향을 점검하는 소중한 기회를 가졌습니다. 본 글에서는 논문에서 다룬 기술 내용과 발표 현장 스케치, 그리고 이를 바탕으로 한 우리의 연구 방향에 대해 정리하고자 합니다.

[EMNLP 2024] 한국어 LLM 기반 스미싱 탐지 연구

EMNLP(Empirical Methods in Natural Language Processing)는 ACL(Association for Computational Linguistics)에서 주최하는 자연어 처리(NLP) 및 인공지능(AI) 분야에서 가장 영향력 있는 학회입니다. 언어모델, 생성형 AI, LLM, 텍스트 분석, 기계 번역, 감정 분석 등과 같은 다양한 자연어 처리 관련 주제를 다루며, 데이터 기반 연구와 실험적 방법론을 중심으로 공유합니다. 이번 EMNLP 2024는 2024년 11월 12일부터 16일까지 미국 플로리다주 마이애미에서 개최되었습니다.
카오뱅크 금융기술연구소는 “KorSmishing Explainer: A Korean-centric LLM-based Framework for Smishing Detection and Explanation Generation”이라는 논문을 Industry Track에서 발표했습니다

1) 연구 배경

카카오뱅크 기술연구소는 문자 메시지를 기반으로 한 금융 사기, 특히 스미싱(SMS + Phishing)에 대응하기 위한 AI 모델을 연구하고 있습니다. 기존의 스미싱 탐지 모델은 메시지가 위험한지 아닌지를 분류하는 데 그치고 있어, 사용자에게 그 이유를 이해하거나 설명하는 데 한계가 있었습니다. 이러한 문제를 해결하기 위해 판단 결과와 함께 판단 근거를 자연어로 설명할 수 있는 한국어 특화 언어모델 학습 프레임워크를 개발했습니다.
EMNLP & NeurIPS 2024 : 한국어 LLM 기반 스미싱 탐지와 금융 데이터 생성 연구
Contents

금융기술연구소의 새로운 시작, ‘Kuzzle’

카카오뱅크 금융기술연구소(이하 기술연구소)에서 개소 N주년을 기념하며 열어온 사내 기술 로드쇼가 올해부터 “Kuzzle”이라는 새로운 이름으로 리브랜딩 되었습니다. Kuzzle은 Kakaobank와 Puzzle의 합성어로, 다양한 조각들이 모여 하나의 퍼즐을 만드는 것처럼 많은 시행착오와 깊은 생각이 모여서 기술연구소를 만들고, 다양한 고민과 사람들이 모여서 카카오뱅크의 기술력을 만드는 것을 나타냅니다. 그리고 더 나아가 우리는 기술로서 고객의 경험을 새롭게 정의하고 고객과 함께 새로운 세상을 만들어가는 AI 시대의 퍼즐 조각의 의미를 내포하고 있습니다.
Kuzzle은 AI 기술이 단순한 연구 결과물이 아닌, 하나의 감각적 경험이 될 수 있음을 보여주고 AI를 비롯한 여러 기술을 몸소 체험하여 가까이할 수 있는 공간을 만들기 위한 자리로 매김을 하고자 브랜딩 되었습니다.

행사 소개 및 컨셉

2025년 1월 4일, 카카오뱅크 금융기술연구소가 개소 4주년을 맞이하였습니다. 올해는 새롭게 브랜딩 된 Kuzzle을 시작하는 한 해인 만큼, 그 어느 때보다 풍성한 프로그램으로 준비했습니다. 다양한 연구 성과를 소개하고 AI 솔루션 체험을 통해 금융과 AI 기술의 융합 가능성을 실험하는 데 집중하면서, 임직원들이 그 가능성을 직접 체험할 수 있도록 몰입형 전시와 인터랙티브 요소에 중점을 두었습니다. 또한, 사내 이벤트 최초로 연구소 PoC를 통한 NFT 입장권을 도입하여 큰 화제를 모았습니다. 이를 통해, 연구 과제 성과를 더욱 효과적으로 알리고 연구소의 브랜딩을 공고히 하며 AI 리터러시 강화 및 사업 부서와의 협업 시너지 강화를 도모하였습니다.
금융기술연구소 기술로드쇼, ‘Kuzzle’로 새롭게 시작하다
Contents

SHAP 알고리즘 가속화 필요성

카카오뱅크 금융기술연구소에서는 인공지능 알고리즘을 실제 비즈니스 문제에 활용하기 위해 다양한 R&D 활동을 수행하고 있습니다. 이러한 활동 중 하나로 설명가능 인공지능(eXplainable AI, 이하 XAI)에 대해 여러 차례 소개해드렸습니다. 이번 글에서는 산학협력으로 완성한 XAI 알고리즘 가속화 결과에 대해서 이야기 나누고자 합니다.
XAI 알고리즘 관련 소개글
다양한 XAI 알고리즘 중에서, 이전에 소개해드린 SHAP (Shapley Additive exPlanations)은 새플리값(Shapley Value)이라는 수리경제학적 이론에 기초한 방법론입니다. SHAP은 아래 수식과 같이 입력과 출력의 형태를 갖는 모든 함수에 대해 적용하여 설명 결과를 산출할 수 있다는 장점을 갖지만, 알고리즘 특성상 많은 계산량을 요구하기 때문에 SHAP 가속화 연구를 진행하게 되었습니다.
βp^(f,x)=∑S⊆F∖{p}(∣F∣1,∣S∣,∣F∣−∣S∣−1)−1[fS∪{p}(xS∪{p})−fS(xS)]\hat{\beta_p}(f,x) = \sum_{S\subseteq{F\setminus{\{p\}}}} \binom{|F|}{1,|S|,|F|-|S|-1}^{-1} [f_{S\cup\{p\}}(x_{S\cup\{p\}})-f_{S}(x_{S})]
가속화가 필요한 이유는 크게 2가지 입니다. 먼저, “실시간성”을 보장해야 하는 업무가 있습니다. 카카오뱅크에서는 고객의 소중한 자산을 지키기 위해 이상거래탐지 업무에 AI를 활용하고 있습니다. 가령, 개발한 이상거래탐지 인공지능 알고리즘이 보이스피싱으로 의심되는 거래를 실시간으로 탐지했는데, 탐지된 이유를 살펴보기 위한 XAI 결과를 3초 이상 기다려야 한다고 생각해보겠습니다. 이 때, 탐지된 대상이 실제 보이스피싱 피해자가 범죄자 계좌로 송금하는 거래였다면, 3초 뒤가 아니라 실시간으로 빠르게 해당 고객의 금융거래를 제한하여 추가적인 피해를 막아야 합니다.
AI를 설명하면서 속도도 빠르게 할 순 없을까? SHAP 가속화 이야기
카카오뱅크가 이번 서비스를 개발하면서 가장 중점을 둔 부분은 특정 메시지를 스미싱으로 판단하게 된 이유를 한번 더 자세히 알려주는 기능입니다. 간단히 스미싱 여부만 알려줄 경우 이용자가 선뜻 신뢰하기 어렵기에, 덧붙인 판단 근거로 이해도를 높여 해당 정보를 신뢰할지 스스로 결정할 수 있도록 도움을 주고자 했습니다. 최근 생성형 AI 모델들은 사용자 의도를 잘 파악해 자연스러운 판단 근거 생성에 사용해 볼 수 있었습니다. 간단한 문자 내용 분류는 규칙 기반(Rule-based) 방식이 정확도와 효율이 높을 수 있지만, 새롭게 생기는 유형에 유연하게 대응하거나 판단 근거까지 생성해 줄 수는 없어서 LLM (Large Language Model)이 유리했습니다.
더 안전한 금융거래를 지원하는 ‘AI 스미싱 문자 확인’ 서비스
Contents
매일 같이 새로운 LLM이 공개되는 지금, 우리는 쏟아지는 LLM 속에서 어떻게 나에게 딱 맞는 모델을 찾을 수 있을까요?
또 우리는 어떻게 “말을 잘 한다” 는 기준을 수치화할 수 있을까요?
금융기술연구소가 if(kakaoAI) 2024에서 발표한 카카오뱅크 시선에 맞춘 LLM을 평가 및 검증 능력의 내재화 경험을 공유합니다.

생성형 AI의 황금기 : 끝없이 등장하는 LLM과 평가 방법들

Language Model 기술이 변곡점을 넘어가면서 LLM을 이용한 새로운 모델들과 LLM에 관한 연구 결과들이 폭발적으로 발표되고 있습니다. 특히 ACL(Association for Computational Linguistics) 학회의 Language Model 관련 논문의 발표 추이를 보면 그 관심을 시간이 지날수록 더더욱 증가하는 것을 알 수 있습니다. 또한 Hugging Face의 Text Generating 분야도 2년 만에 46배 성장하여 이는 비단 학술적인 접근뿐만이 아니라 학계와 산업계의 관심이 지속적으로 확산되고 있음을 보여줍니다.
이렇게 많은 선택지가 쏟아지면 자연스럽게 "어떤 모델이 가장 좋을까?"라는 질문이 생깁니다. 그 배경에는 각 서비스와 데이터가 모두 다르고 필요한 속도, 환경, 성능 등 다양한 요인들을 고려해야 하기 때문입니다. 모델 선택은 이러한 요소들을 종합적으로 고려해야 하는 복잡한 과정이며 특정 상황에 가장 적합한 모델을 선택하기 서비스 별 특화 기준이 필요합니다.
LLM 평가 프레임워크 구축기 : 최적의 LLM을 선택하는 방법, DUO

AI로 확장해 나가는 if(kakaoAI) 2024

금융기술연구소 발표 주제
관련 자료
금융기술연구소 if(kakaoAI)2024 3개 세션 발표
안녕! 오늘은 기분이 좋아! 왜냐하면 내가 새로운 게임을 샀거든! 오늘 새벽에 땡떙게임즈에서 게임을 결제했어. 그리고 오늘은 고속시외버스 티켓도 샀어! 방학이니까 친구들이랑 여행을 가기로 했거든. 이번 방학은 정말 즐거울 것 같아!!!
카카오뱅크의 AI를 설명하는 방법
Contents

국내 은행 최초 AI 전용 데이터센터 개소

카카오뱅크는 지난 2월 AI 센터를 개소했습니다. AI 센터(AI Data Center)는 AI 연구개발 만을 위해 별도 설립하는 전용 데이터센터로 구글, 마이크로소프트, 아마존을 비롯한 빅테크들도 최근 조 단위 투자 계획을 밝히고 있습니다. 카카오뱅크는 국내 은행 중에서는 처음으로 자체 AI 전용 연구 장비를 보유하게 되었으며, 엔비디아 최신 GPU ‘H100’을 도입했다는 점이 인프라 측면에서 가장 눈에 띄는 부분입니다. AI 센터 덕분에 신분증 인식, 셀카인증(Selfie Authentication), 신용평가 모형, 이상거래탐지시스템(FDS), AI 고객센터(AICC) 등 카카오뱅크가 진행 중인 다양한 기술개발에 더욱 박차가 가해질 수 있을 것으로 예상됩니다. 금융기술연구소는 많은 자원과 계산량이 필요했던 안면인식 기술 개발에 H100을 바로 적용해보면서 체험한 개선 효과를 소개하고자 합니다.

안면인식 학습 및 추론 과정

안면인식 과정은 크게 전처리와 안면 특징 추출 2단계로 나누어져 있습니다. 전처리 단계에서는 이미지 내에서 얼굴을 탐지(Detection)하고, 눈, 코, 입 등 특징 좌표를 동일한 좌표로 위치시키는 정렬(Alignment) 작업을 수행합니다. 이후 안면 특징 추출 단계에서 앞서 정렬된 안면 이미지를 바탕으로 개개인을 특성을 ‘식별’하는 분류 모델을 만듭니다. 이때 모델은 개개인을 잘 분류하기보다, 안면 특징 정보를 잘 추출해 낼 수 있는 임베딩(Embedding) 생성을 목표로 합니다. 실제 서비스 단계에서는 학습 단계에서 없었던 새로운 사람이 등장할 수 있기 때문에, 새로운 사람에 대해서도 안면 특징을 잘 표현할 수 있도록 임베딩을 만들어내는 것이 중요합니다. 이렇게 만들어진 두 임베딩을 비교해서 같은 사람인지 다른 사람인지를 판별합니다.
안면인식 기술 개발로 살펴본 H100 도입 효과
Contents

금융권 AI 도입 가속화와 규제 대응

모든 산업에서 AI 도입이 가속화되고 있는 가운데, 범국가적 규제 준수와 기술적으로 안정성과 투명성을 확보하는 문제도 같이 중요해지고 있습니다. 금융 산업에서는 고객 응대와 간단한 상담을 해주는 AI 행원이 시중은행 지점에 등장했고, 증권사는 해외주식 정보를 실시간으로 요약해 주는 서비스나 버추얼 애널리스트가 투자 상품을 추천해 주는 서비스를 앱에 탑재했습니다. 이러한 신기술 도입은 정확하고 책임질 수 있는 정보 전달과 고객 보호를 충분히 고려했는지에 대한 법률 검토가 필요하며, 기존 법체계가 새로운 사회 현상과 위험 요소를 온전히 반영하지 못했을 경우 새로운 입법이 이뤄지게 됩니다.
올해 3월 유럽연합 본회의를 최종 통과한 AI법(EU Artificial Intelligence Act)은 AI가 초래할 수 있는 위험을 광범위하게 검토하고 위법 사항에 강도 높은 제재를 채택했다는 점에서 주목을 받았습니다. 유럽연합의 입법 방향성은 익히 알려져 있었고 개별 기업마다 AI 윤리 측면에서 고객 권리 보호와 서비스 안정성 확보를 자율적으로 준비해 왔으나, AI법 시행으로 강제성이 생긴 만큼 더 탄탄한 대비가 필요해진 것입니다. 카카오뱅크도 지난 1월 ‘오늘의 mini 일기' 서비스 출시하고 AI실 조직을 신설하면서 사내외 서비스들과 AI 접목을 전방위적으로 검토하고 있기에, 국내외 AI 규제 동향을 살펴보고 관련해서 대응해 온 과정을 소개해 보고자 합니다.

유럽연합(EU) AI법

전통적으로 유럽연합은 기업의 독점, 지위남용, 차별과 같은 불공정 행위에 엄격한 규제와 강력한 처벌을 유지해 오는 입장입니다. AI도 기술 우월성에 가려진 잠재 위험을 최대한 예방하고 특정 기업이 시장 질서를 왜곡하는 데 사용할 수 없도록 포괄적 규제가 필요한 대상이 되었습니다. 유럽연합 AI법은 착수 시점도 빠르지만 중간 수정 절차로 생성형 AI처럼 갑자기 급부상한 기술 이슈까지 포함시켰다는 점에서 체계적 완성도를 높였습니다. <유럽의회 - 집행위원회 - 이사회> 3자 간 합의 과정을 보면 규제 강도를 높이는 것에만 초점을 맞추지 않고, 유럽 스타트업들이 미국과 중국 기업들과 혁신 경쟁에 뒤처지지 않도록 하기 위해 불공정한 계약 조건의 구속력을 완화해 주는 등 고민한 흔적도 엿볼 수 있습니다.
3년간 협의를 거친 유럽연합의 최종안은 안보 위협이 명백하지 않다면 인간 기본권 보호 원칙을 최우선으로 꼽고 있습니다. AI 기술 남용이 예상되는 업무나 서비스는 4가지 위험 수준에 따라 적합성 평가와 신뢰성 / 투명성(설명가능성, 사전 고지 등)을 확보하는 보호장치를 의무화하고, AI 사용을 원칙적으로 금지(수인 불가 위험)하는 분야도 지정했습니다. 금융사 입장에서는 신용평가, 대출 심사, 보험 요율 산정과 같은 핵심 업무에 대한 AI 적용이 고위험 영역으로 분류될 수 있다는 점에서 각별한 주의가 필요해졌습니다. 2년 유예기간 후 2026년부터 본격적 효력이 예상되는 만큼 유럽 시장이 중요한 기업들은 빠른 시일 내에 대책 마련이 필요하며, 우리나라를 포함한 많은 국가들이 유럽연합 AI법을 참고하여 규제를 준비하고 있기에 영향력은 점차 더 커질 것으로 보입니다.
AI 규제 동향과 카카오뱅크 AI 거버넌스
Contents

국내 금융사 최초 생성형 AI 활용

카카오뱅크는 지난 1월 29일부터 한 달 여 간 결제 내역 기반으로 AI가 나만의 일기를 만들어주는 ‘오늘의 mini 일기’ 이벤트를 진행했습니다. 이번 이벤트는 금융기술연구소가 서비스 기획 및 개발 부서와 오랫동안 협업해서 준비해 온 것으로, 생성형 AI가 쓰인 대고객 금융 서비스로는 국내 첫 사례입니다. 연구소는 작년에 화두가 된 LLM 서비스를 금융 상품에 활용할 수 있는 시나리오를 찾기 위해 연초부터 내부 워크숍을 여러 차례 운영하고 고민을 거듭했습니다. 하루 요약 일기 생성 서비스는 당시에 나왔던 아이디어들 중 하나로, 처음에는 친근한 이미지를 곁들이거나 금융 특화형 SNS까지 다양한 기능을 연결해 보자는 의견도 있었습니다.
본격적인 서비스 개발은 Elena, Vivaan, Luna가 체크카드 결제 내역을 기반으로 일기를 생성하는 PoC를 사내에 공개한 후, 서비스 기획 부서에서 흥미롭게 보고 이벤트에 적용해 볼 것을 제안해 주면서 시작되었습니다. GPT 계열 언어모델이 텍스트로만 된 결제 내역을 정확히 변환해 주었고, 2~3단계 질문 만으로 이모티콘까지 포함된 센스 있는 표현을 인스타그램 스타일로 자연스럽게 생성해 주는 결과가 이목을 끌었습니다. 시작은 호기로웠지만 카카오뱅크의 생성형 AI 기반 첫 번째 서비스가 탄생하기까지는 신기술 검증부터 시나리오 기획과 최적화까지 많은 요소를 고려하고 확인하는 절차를 거쳐야 했고 서버, 클라우드, 모바일 등 여러 개발 부서 도움이 필요했습니다.

주요 연구 개발 요소

우선 LLM 서비스들의 대표 한계점으로 익히 알려진 환각 현상이 발생하지 않도록 보완해야 했습니다. 잘못된 해석이나 맥락과 상관없이 부적절한 단어 노출은 애초에 문제가 발생하지 않도록 상황을 정의하는 것도 필요했습니다. 예를 들면, ○○페이와 같은 간편 결제 서비스를 이용해 결제한 내역은 ‘소프트웨어업’으로 인식돼서 ‘취업을 위해 노력했어’라는 엉뚱한 결과를 생성했습니다. 가맹점 업종명이 정확하지 않거나 일기 형식에 맞지 않은 경우 전체적으로 데이터 재가공을 거치고 기존 가맹점 분류 체계를 보완하는 작업을 수행했습니다.
mini 서비스에 맞게 기술적으로 튜닝하는 작업은 대규모 데이터 정제, 전처리는 물론이거니와 최적 프롬프트를 찾기 위한 막대한 테스트가 필요했습니다. 개인신용정보 관리 규정에 위배되지 않으면서 일기 문맥을 유지할 수 있는 지시어를 발굴했으며, 적절한 길이로 가독성을 살리고 재미도 반영될 수 있게 중요 키워드와 다채로운 표현들을 미리 추가했습니다. 수개월 동안 시행착오를 거치면서 프롬프트 디자인을 개선하고 보니 결제 내역에 따뜻한 응원 문구를 일관성 있게 덧붙이는 개인별 일기를 완성할 수 있게 되었습니다.
따뜻한 AI가 응원해 주는 나의 하루, '오늘의 mini 일기' 서비스 준비 과정
금융기술연구소 3주년 기념 주요 성과 리뷰
Contents

대내외 협업 취지

카카오뱅크는 금융기술연구소(이하 연구소)를 필두로 한 대내외 연구개발 협업을 통해 우수한 선진 기술을 도입하고 기술적 한계를 뛰어넘기 위한 노력을 지속해오고 있습니다. 2편에서 먼저 소개한 연구소만의 개방적 연구 환경과 유연한 운영 방식은 카카오뱅크 내 현업 부서 및 외부 전문가들과 협업을 극대화하기 위한 사전 조치입니다. 이는 IT산업이 디지털 기반 투명성과 개방성을 바탕으로 수준 높은 기술을 빠르게 개발하고, 비용 절감은 물론 의사 결정 문화 개선까지 이뤄왔던 것을 금융산업에도 재현해 보려는 바람입니다.
연구소 핵심과제들은 주요 목표와 투입 자원, 일정 등을 정기 운영위원회를 통해 보고하고 연구 방향을 결정합니다. 운영위원회는 연구개발 성과 활용성을 다각도로 검증하는 동시에 대고객 서비스에 필요한 요구 사항을 공유하기 위해 유관 기술 부서 책임자들을 위원으로 위촉하고 있습니다. 운영위원회에서 결정된 사안들은 각 위원들이 책임지고 있는 부서와 긴밀한 체계를 꾸준히 유지하는 것이 관건입니다. 때로는 타 부서와 연구소 상호 간 인력을 파견하거나 TF를 구성해 특별 프로젝트를 전개하는데, 유독 2023년은 공동 프로젝트가 많이 진행된 한 해였습니다.

외부 과제 및 협력 현황

학계 협업은 외부에서 최첨단 기술 역량을 수혈하고 급변하는 기술 트렌드를 받아들이기 위해 연구소가 중점을 두고 추진하고 있습니다. 카카오뱅크는 금융위원회의 ‘금융분야 AI 개발·활용 안내서’(2022년) 발간에 주도적으로 참여하였으며, 신뢰 가능한 AI 도입을 위한 AI거버넌스 체계를 수립했습니다. 또한 AI를 활용한 대고객 금융상품 서비스 신뢰 제고를 위해 국내 금융권 최초로 인공지능경영시스템(ISO/IEC 42001) 인증을 취득한 바 있습니다. 전사적 공로와 업적에도 불구하고 최근 화두인 LLM 토대 위에 안정성을 온전히 확보하려면 더 심도 있는 연구가 아직 많이 필요합니다. 연구소에서 이러한 기술 간극을 보완해 보고자 카이스트와 ‘금융분야 설명 가능 AI’, 고려대와 ‘금융분야 LLM 평가지표 개발’ 등 산학 연구과제 2건을 지난해 새로 착수하였습니다.
이외에도 연구과제 수립과 학술 성과 고도화에 조력을 받고자 자문교수 제도를 처음 시작했습니다. 첫 시도로 인하대, 성균관대와 자문 계약을 체결했고 점진적으로 중요 분야를 발굴해 탁월한 연구자들과 협력해 나갈 계획입니다. 국내 금융지주사들이 외부 기업과 공동 기술 개발을 하거나 초기 투자 목적으로 운영하는 핀테크랩 기능도 연구소가 해야 할 역할 중 하나입니다. 다양한 외부 협력 덕분에 학술 논문의 수준을 한 단계 높였고, 연구 분야 폭이 넓어지면서 FnGuide처럼 산업계 파트너와 함께할 기회도 만들 수 있었습니다.
금융기술연구소 3주년 기념 주요 성과 리뷰 3편 협력과 도전
금융기술연구소 3주년 기념 주요 성과 리뷰
Contents

연구 과제 현황

금융기술연구소(이하 연구소)는 지난 2023년에 다수의 과제 수행을 통해 국제 학회와 저널에 논문 4편을 개제했고, 국내와 해외 특허 출원을 이뤘습니다. 이전부터 이어져온 연구과제 결과물들을 포함해 가장 많은 성과를 낸 한 해였으며, 설립 3년 만에 이뤄낸 결과물로는 매우 우수하다고 자부하고 있습니다. 내부 과제들은 카카오뱅크 대내외 서비스와 밀접도에 따라 크게 ‘기초 연구’와 ‘응용 연구’로 2가지로 구분되고, 연구과제를 본격적으로 착수하기 전에 초기 아이디어나 타당성을 검증하기 위한 ‘탐색적 연구’도 수행하고 있습니다.
탐색적 연구는 소수 연구원이 짧은 기간 동안 파일럿 실험으로 PoC를 해보거나, 스터디 그룹을 만들어 집중적으로 학습하는 형태도 포괄합니다. 작년에는 하루가 다르게 발전하는 LLM 트렌드를 연구 내용에 반영하기 위해, 특별히 긴급 PoC 프로젝트를 별도로 진행하면서 현업 부서와 기술 효용성을 깊게 따져보기도 했습니다. 덕분에 최신 AI 기술에 대한 카카오뱅크 내부 이해도 증진에 연구소가 큰 기여를 했고, PoC 중에 정식 연구과제로 발전하거나 실제 서비스에 적용되는 기술도 나오게 되었습니다.

논문•특허 분야

2023년은 연구소 성과들이 여러 분야로 넓어지고 국제적 인지도를 확보할 수 있어서 질적으로도 크게 성장한 한 해였습니다. 고객 인증 시 개인 정보 보호를 강화하는 연합학습, 입력 습관을 활용해 부정 사용을 방지하는 무자각 인식, 신용평가 모형 개선을 위한 생성형 AI처럼 금융 서비스에서 선진 기술들의 활용 방안을 구체화하는 데 성공했고, 블록체인 분야 특허도 출원했습니다. 이중 주요 성과들은 해외 저명 저널과 학회에 논문을 개제할 수 있었습니다.
카카오뱅크는 기술주도 회사답게 타 부서에서도 알고리즘 개발, 빅데이터 분석, 서비스 고도화, 운영 최적화에 관련된 핵심기술 개발을 해오고 있습니다. 연구소는 컴퓨터 비전 기반 사용자 인증, 비금융 정보 이용 신용평가 모형 개발, 사기 거래 및 유해 정보 탐지 등에서 유관 부서와 협력 연구를 진행 중입니다. 이 과정에서 논문 작성은 단연 주도하고 있으며, 특허는 전사의 20% 정도를 차지하고 있습니다.
금융기술연구소 3주년 기념 주요 성과 리뷰 2편 논문•특허
금융기술연구소 3주년 기념 주요 성과 리뷰
Contents

행사 소개 및 컨셉

2024년 1월 4일은 카카오뱅크 금융기술연구소가 개소한 지 3주년이 되는 날입니다. 개소 3주년을 기념하여 연구전략팀 Vida와 Louis는 2023년 연구성과들을 체험하고 관람할 수 있는 전시 행사로 꾸며보았습니다. 행사 이름 <Seedning>은 ‘상상의 씨앗(Seed)을 가꾸어 현실의 혁신으로 만들어내는 연구를 지속(Ing)함’을 의미합니다. 단순한 기술 설명을 벗어나, 연구소 연구성과들을 AI와 다양한 미디어 기술로 시각화하여 관람객들이 쉽게 이해하고 체험할 수 있도록 하였습니다.
OpenAI DALL-E 이후 눈부시게 발전한 생성형 AI와 멀티모달(Multi Modal)은 예술 분야에 독창적 영감과 표현 기회를 제공하고 있습니다. 특히 미디어아트(Media Art)는 오래전부터 과학과 예술의 결합(Art + Science)을 추구해 왔고, 최근 메타버스나 NFT와 같은 신기술을 접목하기도 했습니다. <Seedning>도 복잡한 코드로 구현되는 미디어아트를 생성형 AI로 한 달 만에 완성해, 어려운 금융 기술도 예술 작품처럼 될 수 있음을 보여줬습니다.

지난 3년 브리핑

금융기술연구소 3주년 기념 주요 성과 리뷰 1편 행사 소개
Contents

연구 배경

최근, 대규모 언어모델(Large Language Models, LLM) 등장으로 자연어처리 기술이 비약적으로 발전했으나 금융 용어 및 도메인 지식에 전문화된 언어모델은 부족해서 은행을 비롯한 금융기관에서 최신 언어모델을 쓰기에 아직 어려움이 많습니다. 사전학습 언어모델(Pre-trained Language Model, PLM)은 범용 언어모델보다 특정 도메인 이해도를 집중적으로 높이기 위한 방식입니다.
카카오뱅크는 기업 금융 정보 전문 기업인 에프엔가이드(FnGuide)와 함께 1년 여 동안 고품질의 한국어 금융 학습 데이터를 구축하고, 이 학습 데이터에 최적화시킨 KF-DeBERTa 언어모델을 국내 금융사 최초로 GitHub와 Hugging Face를 통해 대중에게 공개합니다. KF-DeBERTa는 학술적 공로를 인정 받아 지난 10월 35회 한글 및 한국어 정보처리 학술대회(HCLT 2023)에서 우수상을 수상하기도 했습니다. 모델 이름의 KF는 ‘Korean Finance’와 ‘Kakaobank + FnGuide’를 의미합니다.

문제 정의

일반 언어모델들은 아무리 모델이 크고 학습 데이터가 방대하더라도 범용 말뭉치(General corpus) 기반이라 높은 전문지식(Domain knowledge)이 필요한 분야에서는 한계를 보이는 경향이 있습니다. 그나마 공개된 데이터가 충분한 분야는 준수한 성능을 보이나 금융처럼 전문용어 사용이 많은 분야는 양질의 한국어 데이터 자체가 부족합니다. 특히 금융 산업은 법률 규제로 인해 자체 보유한 데이터를 외부에 공개하기 어려운 보수적 분위기가 강하며, 금융 관련 서비스에 언어모델이 쓰이려면 다음 3가지 요소가 보완되어야 합니다.
금융관련 서비스에 언어모델이 쓰이기 위해 보완되어야 할 3요소
한가지 전문 분야에 특화시키는 언어 모델은 과학기술 Galactica (Meta), 의료 Med-PaLM (Google), 법률 Legal-BERT (Athens University), 임상기록 GatorTron (Nvidia, University of Florida) 등 여러가지가 시도되고 있습니다. 금융 분야는 BloombergGPT (Bloomberg)와 FinBERT (Prosus)가 유명합니다. 주로 영어권 언어모델이며, 국내에서는 2021년 KB국민은행이 KB-ALBERT를 공개했지만 모델 파일은 별도 허가를 얻어야 받을 수 있습니다.
자연어처리 성능이 뛰어나다고 해도 무조건 거대한 언어모델을 활용하는 것은 개발 투자와 서비스 운영 비용 관점에서 부담스럽기도 합니다. 다양한 여건들을 고려해, 카카오뱅크와 에프엔가이드는 양방향(Bi-directional) 구조로 문맥을 양방향으로 이해하고 위치정보를 포함한 Disentangled Attention이 도입된 DeBERTa을 토대로 자체 금융특화 언어모델을 개발했습니다.
카카오뱅크의 금융특화 언어모델 KF-DeBERTa 개발기