우리의 목표
보다 가치 있는 기술의 실현
금융 혁신 기술 탐구
기술 발전의 흐름을 조명하고, 부상하는 최신 기술을 금융산업에 접목시키기 위한 연구를 수행합니다
기술 생태계 기여
연구 성과를 함께 공유하며 금융기술 생태계 활성화에 기여합니다
금융산업의 안전성을 담보하고 혁신 기반을 마련하는 기술 도약의 산실
주요 성과
Abstract
While privacy regulations prohibit direct data sharing among institutions, improving fraud detection performance requires collaboration across banks. To mitigate this limitation, we have conducted a real-world case study on privacy-preserving financial fraud detection (FFD) in the South Korean banking sector. During the research, we have identified four major challenges in practice: (C1) the degradation of tabular generative models under extreme class imbalance and sparsity, (C2) the lack of utility–privacy joint evaluation methodology, (C3) the inability of detection models to capture irregular active lifetime of fraudulent activity, and (C4) the absence of robust federated gradient boosting under dynamic participation. In this work, we introduce two novel approaches: (i) Graph-theoretical Generative Models (GGMs), which leverage graph theories to generate high-utility synthetic tabular data; and (ii) Active Lifetime-Aware Fraud Transaction (ALAFT), which adjusts fraud scores by defining and modeling active lifetime of fraudulent patterns. Across two private banking datasets and a public benchmark, GGMs consistently outperform seven baselines, while ALAFT outperforms significant gains over six representative detectors, reducing false positives during high-risk periods. Finally, we outline our ongoing work, fraud scenario-aware and similarity-based FedXGBBagging with KakaoBank, TossBank, and KBank to enable secure collaboration and support nationwide anti-fraud efforts.
Privacy-Preserving Financial Fraud Detection: Challenges and Solutions with Generative Models, Lifetime-Aware Detection, and Federated Boosting
NeurIPS 2025 Workshop on Generative AI in Finance
2026/06/24
Abstract
Financial Large Language Models (LLMs) exhibit strong domain expertise but remain vulnerable to financially harmful prompts. To systematically assess this vulnerability, we introduce \textbf{FinHarmBench}, a benchmark designed to evaluate financially harmful and confusable benign prompts. Our analysis reveals a concerning result that financial LLMs can be less robust than general-purpose models, suggesting that domain adaptation alone does not guarantee financial safety alignment. To address this issue, we propose \textbf{Financial Refusal Steering Distillation (FiRSD)}, an unsupervised training framework that strengthens financial-domain safety by learning and distilling a financial refusal direction at the representation level. FiRSD enhances refusal behavior without requiring annotated refusal responses. Experiments show that FiRSD substantially improves safety while largely preserving task capability. These results highlight the importance of domain-aware safety alignment for high-stakes financial applications.
FinHarmBench: Financial Jailbreak Benchmark and Unsupervised Safety Fine-Tuning via Refusal Steering Distillation
ACL 2026 Industry Track
2026/04/18
본 특허는 대규모 코퍼스에서 사전 구축한 분위수(CDF)로 유사도 점수를 실시간 정규화해, 입력 분포 변화에도 일관된 판정을 가능하게 하는 임베딩 기반 후처리 방법입니다.
특히 단일 키워드를 관련어를 유연하게 삽입한 “문장 형태”로 확장해 컨텍스트 커버리지를 크게 넓히고, 임베딩 모델이 의미를 더 풍부하게 표현하도록 하여 유사도 판별 정확도를 높입니다.
임베딩 모델 기반의 텍스트 유사도 결정 방법 및 이를 수행하는 서버
2026/03/18
10-2026-0048680
연구 스토리
LREC 2026에서 인정받은 카카오뱅크의 금융 수치 추론 기술력
카카오뱅크 기술연구소의 논문 <BankMathBench: A Benchmark for Numerical Reasoning in Banking Scenarios>가 자연어 처리(NLP) 분야의 대표 국제 학회인 LREC 2026에 구두 발표(Oral Presentation)로 채택되었습니다.
BankMathBench는 예적금, 대출 등 실제 은행 상품 시나리오에서 필수적인 수치 계산 및 추론 능력을 평가하기 위해 설계된 금융 수치 추론 특화 벤치마크입니다. 언어 데이터셋과 평가 방법론을 핵심적으로 다루는 LREC에서 이번 연구가 채택된 것은, 카카오뱅크가 단순히 AI 모델을 활용하는 단계를 넘어 금융 AI의 정확도와 신뢰성을 검증할 수 있는 표준을 제시했다는 점에서 큰 의미가 있습니다. 카카오뱅크는 이번 연구를 통해 일상 금융 시나리오에서의 수치 추론 능력을 체계화하고, 실제 모델의 성능 개선 효과까지 실험적으로 입증하며 금융 AI 기술력을 증명했습니다.
연구 배경 및 주요 성과 : 뱅킹 시나리오 특화 벤치마크 제안 및 주요 성과
BankMathBench: A Benchmark for Numerical Reasoning in Banking Scenarios
2026/05/14
LREC 2026에서 입증한 멀티모달 울타리, “안으로 들어오면 안전해요”
최근 몇 년간 우리 일상에 깊이 자리 잡은 LLM은 텍스트를 넘어 이미지, 음성 등 다양한 영역으로 빠르게 확장되고 있습니다. 그 중 이미지를 함께 이해하는 모델을 비전 언어 모델 (Vision Language Model, VLM)이라고 부릅니다.
하지만 모델이 고도화될수록 보안 위협도 함께 진화합니다. 대표적인 사례가 바로 탈옥 공격(Jailbreak Attack)으로, 교묘하게 조작된 텍스트나 이미지로 모델의 안전장치를 우회해 민감한 정보를 끌어내는 공격을 의미합니다. 고객의 자산과 민감 데이터가 오가는 금융 AI에서 이를 막을 방어 체계는 이제 선택이 아닌 필수입니다.
저희는 금융 AI를 탈옥 공격으로부터 지켜내기 위해 금융 분야의 멀티모달 탈옥 공격 탐지 데이터셋인 FENCE를 구축했습니다. 이 연구를 담은 논문 〈FENCE: A Financial and Multimodal Jailbreak Detection Dataset〉은 자연어 처리 분야의 대표 국제 학회인 LREC 2026에 채택되었으며, 이번 글에서 그 내용을 소개하고자 합니다.
FENCE: A Financial and Multimodal Jailbreak Detection Dataset
2026/04/28
세계 최고 권위의 인공지능 학회인 ICLR 2026(International Conference on Learning Representations)에 카카오뱅크 기술연구소가 카이스트와의 산학협력을 통해 연구한 전문 분야 가드레일 <EXPGUARD: LLM Content Moderation in Specialized Domains> 논문이 포스터 세션으로 채택되었습니다.
ICLR은 Google, Meta, OpenAI 등 글로벌 AI 선도 기업들이 참여하여 미래 AI의 방향성을 만들어가는 Top3 국제 학술 대회입니다. 약 28%라는 높은 경쟁률을 뚫고 채택된 이번 연구는 카카오뱅크가 단순히 AI 모델을 사용하는 것을 넘어, AI의 안전성을 제어하는 'AI Safety' 분야에서 글로벌 수준의 기술력을 보유하고 있음을 입증한 결과입니다.
왜 가드레일에 '전문 도메인(Specialized Domains)' 이 필요할까?
ICLR 2026에서 인정받은 카카오뱅크의 AI Safety 기술력, 프롬프트 어택 탐지 가드레일 EXPGUARD
2026/05/06
언론 보도
금융보안원(원장 박상원)은 인터넷은행 3사(카카오뱅크, 토스뱅크, 케이뱅크)와 연합학습 기법을 활용한 "보이스피싱 탐지 AI 공동모델ˮ을 개발하였다. 원본 학습데이터를 외부에 공유하지 않고, 기관별로 학습된 AI 모델(가중치)만 공유·병합하여 개별 기관의 프라이버시ㆍ보안을 유지하면서도 공동으로 활용가능한 고성능 AI를 만드는 차세대 협업 기술이다.
(중략)
금융보안원 박상원 원장은 "지능화·조직화되고 있는 보이스피싱 사기 범죄에 대응하기 위해서 금융권 전체가 상생 기반의 협력체계를 마련하는 것이 중요”하다면서, "보이스피싱 공동모델 개발뿐만 아니라 AI를 활용한 ASAP 플랫폼 보이스피싱 관련 데이터 분석도 적극적으로 수행하고 선제적ㆍ예방적 탐지에 필요한 인사이트와 시나리오를 발굴ㆍ제공함으로써 금융소비자 보호에 앞장서겠다“라고 밝혔다. ⋯⋯ <원문 읽기>
금융보안원-인터넷은행 3사 카카오뱅크⋯,국내 최초 연합학습 기반 “보이스피싱 탐지 AI 공동모델” 적용 실시
2026/06/24
금융보안원
카카오뱅크가 세계적 권위의 AI 및 데이터 과학 분야 국제 학술대회에서 연속으로 논문 채택이 이루어지며 금융 AI 기술 리더십을 입증했다고 11일 밝혔다.
카카오뱅크 금융기술연구소는 최근 개최된 ‘CIKM 2025’와 ‘ICAIF 2025’에서 ▷‘설명 가능한 AI(eXplainable AI, 이하 XAI)’의 연산 가속화 방법론 ▷금융 특화 한국어 정보 검색(IR, Information Retrieval) 벤치마크 데이터셋 구축 등 연구 결과를 발표했다. 금융 AI 분야의 양대 핵심 과제로 꼽히는 ‘AI 모델의 설명 가능성(Explainability) 확보’와 ‘한국어 금융 문맥 처리 정확도 개선’에 대한 해법을 제시해 검증 받았다.
(중략)
카카오뱅크는 “글로벌 학회에서 잇따라 연구 성과를 인정받았다는 점은 카카오뱅크의 AI 기술이 이미 국제적 기준에서 경쟁력을 갖췄다는 의미”라며 “앞으로도 끊임없는 연구개발을 통해 금융 서비스의 신뢰도와 편의성을 높이고 고객이 체감할 수 있는 혁신적인 금융 기술을 선보이겠다”고 말했다. ⋯⋯ <원문 읽기>
카카오뱅크, 글로벌 최정상 AI 학회서 연속 논문 채택
2025/12/11
헤럴드경제
카카오뱅크가 한국인터넷진흥원(KISA)과 손잡고 스미싱 탐지 기술을 한층 강화한다.
3일 카카오뱅크는 서울 송파구 한국인터넷진흥원 서울청사에서 금융보안 강화를 위한 업무협약(MOU)을 체결하고, ‘AI 스미싱 문자 확인’ 서비스 고도화에 나선다고 밝혔다. 이번 협약으로 카카오뱅크는 자사 서비스에 KISA의 검증 시스템을 연동해 스미싱 탐지 정확도를 높일 계획이다.
(중략)
카카오뱅크 관계자는 “지능화되는 스미싱 범죄에 대응하기 위해 공공기관과 협력을 강화했다”며 “서비스 고도화를 통해 고객이 안심하고 금융 서비스를 이용할 수 있는 환경을 만들겠다”고 말했다.
⋯⋯ <원문 읽기>
카카오뱅크, KISA와 협력…‘AI 스미싱 문자 확인’ 고도화
2025/12/03
서울와이어
카카오뱅크 금융기술연구소
Financial Tech Lab