우리의 목표
보다 가치 있는 기술의 실현
금융 혁신 기술 탐구
기술 발전의 흐름을 조명하고, 부상하는 최신 기술을 금융산업에 접목시키기 위한 연구를 수행합니다
기술 생태계 기여
연구 성과를 함께 공유하며 금융기술 생태계 활성화에 기여합니다
금융산업의 안전성을 담보하고 혁신 기반을 마련하는 기술 도약의 산실
주요 성과
연구 스토리
•
본 글의 일부는 <카카오 Tech Ethics> “더 안전한 금융거래를 지원하는 ‘AI 스미싱 문자 확인’ 서비스”에도 같이 발행되었습니다. 인용된 이미지의 저작권과 출처는 <카카오 Tech Ethics>입니다.
Contents
스미싱(Smishing)은 휴대폰 문자메시지(SMS)나 SNS로 가족이나 지인, 정부 기관을 사칭해 개인정보를 탈취해 2차 피해를 입히는 범죄입니다. 규제 당국의 자료에 따르면 스팸 메시지 건수는 상반기 대비 2배 가량 증가했습니다. 경찰청은 최근 2년간 스미싱 피해액이 600억 원 억원에 달할 것으로 전망했습니다. 특히 스미싱은 단순한 개인 정보 유출이나 소액 사기와 달리 불법 대출을 비롯한 금융 사기와도 연관이 많아 카카오뱅크에서는 AI로 이를 예방할 수 있는 방안을 고민해 왔습니다.
스미싱 판별 이유도 설명하는 AI 기반 ‘스미싱 탐지 서비스’
카카오뱅크가 이번 서비스를 개발하면서 가장 중점을 둔 부분은 특정 메시지를 스미싱으로 판단하게 된 이유를 한번 더 자세히 알려주는 기능입니다. 간단히 스미싱 여부만 알려줄 경우 이용자가 선뜻 신뢰하기 어렵기에, 덧붙인 판단 근거로 이해도를 높여 해당 정보를 신뢰할지 스스로 결정할 수 있도록 도움을 주고자 했습니다. 최근 생성형 AI 모델들은 사용자 의도를 잘 파악해 자연스러운 판단 근거 생성에 사용해 볼 수 있었습니다. 간단한 문자 내용 분류는 규칙 기반(Rule-based) 방식이 정확도와 효율이 높을 수 있지만, 새롭게 생기는 유형에 유연하게 대응하거나 판단 근거까지 생성해 줄 수는 없어서 LLM (Large Language Model)이 유리했습니다.
때문에 카카오뱅크는 단순히 LLM을 도입하는데 그치지 않고 정확하게 스미싱 문자를 판별하고 그 이유를 자세히 설명하도록 개발 방향성을 설정했습니다. 이러한 기능을 구현하기 위해 특정 메시지를 스팸으로 판단한 이유가 적절한지에 대해 다방면으로 방법을 검토했습니다.
더 안전한 금융거래를 지원하는 ‘AI 스미싱 문자 확인’ 서비스
2024/12/09
언론 보도
바야흐로 거대언어모델(LLM) 시대다. 오픈AI의 GPT, 메타의 라마, 구글의 제미나이, 아마존의 타이탄 등 빅테크에서 LLM을 쏟아내고 고도화하고 있다. LLM은 다양한 산업군에 적용될 것으로 보인다. 디지털 전환에 관심이 많은 금융권에서도 LLM에 관심을 보인다. 온라인 고객센터부터 시작해 궁극적으로 영업점에도 LLM을 도입하고 싶어한다. 그러나 LLM의 최대 단점은 AI의 거짓말, 즉 ‘환각(할루시네이션)’이다. 특히 ‘돈’이 오가는 은행에서 환각은 치명적이다. 그래서 은행에게 필요한 것은 LLM을 잘 평가하는 일이다.
인터넷전문은행 카카오뱅크가 LLM의 성능을 평가, 검증할 수 있는 프로젝트를 최근 마쳤다. 카카오뱅크가 고려대학교와 함께 한 ‘듀오 프로젝트’는 LLM의 전반적인 능력을 측정한다. ⋯⋯ 원문읽기>
“생성AI도 시험치자” LLM 테스트 만든 카카오뱅크
2024/12/13
바이라인네트워크
카카오뱅크 금융기술연구소
Financial Tech Lab