우리의 목표
보다 가치 있는 기술의 실현
금융 혁신 기술 탐구
기술 발전의 흐름을 조명하고, 부상하는 최신 기술을 금융산업에 접목시키기 위한 연구를 수행합니다
기술 생태계 기여
연구 성과를 함께 공유하며 금융기술 생태계 활성화에 기여합니다
금융산업의 안전성을 담보하고 혁신 기반을 마련하는 기술 도약의 산실
주요 성과
연구 스토리
Contents
if(kakao)25에서 소개한 카카오뱅크의 프롬프트 어택 탐지 기술
이프카카오는 카카오 그룹의 기술 비전과 연구 성과를 공유하는 연례 행사로, 한 해 동안 집중해 온 기술적 도전과 성과를 개발자 커뮤니티와 함께 나누는 자리입니다. 올해 행사에서는 카카오뱅크 내에서 금융기술연구소가 단독으로 발표 세션에 참여하여, ‘기술 너머의 가능성’이라는 주제 아래 프롬프트 어택(Prompt Attack) 탐지 모델 개발기를 소개했습니다.
연구소에서 개발한 프롬프트 어택 탐지 모델, Lab.fortress는 2025년 상반기 카카오뱅크가 선보인 AI 검색, AI 금융계산기에 적용되어 사용자에게 보다 안전하고 신뢰할 수 있는 AI 서비스 경험을 제공하고 있습니다.
프롬프트 어택이란 무엇인가 — 그리고 왜 중요한가
최근 대형언어모델(LLM)이 검색, 상담 등 다양한 서비스에 적용되면서, 새로운 형태의 보안 위협인 프롬프트 어택에 대한 관심이 높아지고 있습니다. 프롬프트 어택은 모델의 프롬프트를 조작해 LLM이 의도와 다르게 동작하도록 유도하는 기법입니다.
대표적인 공격 유형은 Jailbreaking, Prompt Leaking, Prompt Injection 이 있습니다.
•
Jailbreaking은 대형언어모델(LLM)의 내부 규칙을 우회하는 공격입니다. 공격자는 모델이 “금지된 답변”을 내놓도록 프롬프트를 조작하며, 대표적으로 “Do Anything Now(DAN)”가 있습니다.
Prompt Attack에 대항하는 공든 요새 쌓기 : lab.fortress
2025/11/17
언론 보도
카카오뱅크가 세계적 권위의 AI 및 데이터 과학 분야 국제 학술대회에서 연속으로 논문 채택이 이루어지며 금융 AI 기술 리더십을 입증했다고 11일 밝혔다.
카카오뱅크 금융기술연구소는 최근 개최된 ‘CIKM 2025’와 ‘ICAIF 2025’에서 ▷‘설명 가능한 AI(eXplainable AI, 이하 XAI)’의 연산 가속화 방법론 ▷금융 특화 한국어 정보 검색(IR, Information Retrieval) 벤치마크 데이터셋 구축 등 연구 결과를 발표했다. 금융 AI 분야의 양대 핵심 과제로 꼽히는 ‘AI 모델의 설명 가능성(Explainability) 확보’와 ‘한국어 금융 문맥 처리 정확도 개선’에 대한 해법을 제시해 검증 받았다.
(중략)
카카오뱅크는 “글로벌 학회에서 잇따라 연구 성과를 인정받았다는 점은 카카오뱅크의 AI 기술이 이미 국제적 기준에서 경쟁력을 갖췄다는 의미”라며 “앞으로도 끊임없는 연구개발을 통해 금융 서비스의 신뢰도와 편의성을 높이고 고객이 체감할 수 있는 혁신적인 금융 기술을 선보이겠다”고 말했다. ⋯⋯ <원문 읽기>
카카오뱅크, 글로벌 최정상 AI 학회서 연속 논문 채택
2025/12/11
헤럴드경제
카카오뱅크가 금융 인공지능(AI) 보안을 강화하기 위해 개발해온 보안 기술 성과를 선보였다.
카카오뱅크 기술연구소는 24일 개발자 콘퍼런스 '이프카카오25'에서 자체 AI 보안 시스템 개발 성과를 소개했다. 이번에 소개된 연구성과는 △프롬프트 공격 탐지 기술 △다중 대화(멀티턴) 공격 탐지 확장 △출력 가드레일 연구 등 세 가지다.
프롬프트 공격 탐지 기술은 해커가 AI에게 내부 정보를 캐내거나 규칙을 우회하도록 유도하는 입력 공격을 실시간으로 식별·차단한다. 카카오뱅크는 금융 환경에 특화된 데이터셋을 직접 구축해 모델을 학습시켜 단순 패턴 매칭을 넘어 실효성을 높였다. 대표적으로 AI에게 다른 사람의 계좌 비밀번호를 묻는 등 악의적인 정보 탈취를 막는다.
(중략)
손정민 카카오뱅크 금융기술연구소 매니저는 “멀티턴 공격처럼 교묘한 시도까지 추적할 수 있도록 모델을 발전시키고 있고, 출력 단계에서도 위험이 걸러지도록 여러 겹의 안전망을 쌓아가고 있다”며 “금융 서비스는 고객의 신뢰와 직결되기 때문에 연구 과정에서 나온 AI 보안 성과들을 차근차근 서비스에 적용해 나가고 있다”고 말했다. ⋯⋯ <원문 읽기>
카카오뱅크, 실시간 해킹 차단 AI 신기술 공개
2025/09/24
전자신문
카카오뱅크 5월 30일 금융기술연구소에서 특허청 주관 '지식재산 현장소통 간담회'를 진행했다고 1일 밝혔다.
이번 간담회는 특허청이 금융 혁신을 위한 지식재산 협력 강화를 위해 최근 5년간 업계 최다 특허권 등록을 기록한 카카오뱅크의 다양한 의견을 듣고 정책에 반영하기 위해 기획됐다.
간담회에는 특허청 박재훈 전기통신심사국장, 여원현 전자상거래심사과장, 금융 AI기술 분야 특허 심사관들과 카카오뱅크 고정희 AI그룹장, 안현철 금융기술연구소장 등 주요 관계자가 참석했다.
카카오뱅크는 연구소의 주요 연구 성과와 금융 혁신을 뒷받침하는 최신 기술 동향을 소개했다. 또한 인공지능(AI) 기술을 적용해 개발한 ‘AI 스미싱 문자확인’, ‘오늘의 mini 일기’ 등 대고객 서비스를 소개하고 시연을 진행했다.
(중략)
안 소장은 “카카오뱅크 금융기술연구소는 금융이라는 특수한 환경 속에서도 기술 혁신을 이끌겠다는 목표로 끊임없이 노력하고 있다”며 “앞으로도 특허청과의 협력을 통해 지식재산 생태계 확장은 물론 다양한 연구개발 성과 창출에도 박차를 가하겠다”고 말했다. ⋯⋯ <원문 읽기>
카카오뱅크, 특허청과 지식재산 현장소통 간담회
2025/06/01
이뉴스투데이
카카오뱅크 금융기술연구소
Financial Tech Lab