국내 금융사 최초 생성형 AI 활용
카카오뱅크는 지난 1월 29일부터 한 달 여 간 결제 내역 기반으로 AI가 나만의 일기를 만들어주는 ‘오늘의 mini 일기’ 이벤트를 진행했습니다. 이번 이벤트는 금융기술연구소가 서비스 기획 및 개발 부서와 오랫동안 협업해서 준비해 온 것으로, 생성형 AI가 쓰인 대고객 금융 서비스로는 국내 첫 사례입니다. 연구소는 작년에 화두가 된 LLM 서비스를 금융 상품에 활용할 수 있는 시나리오를 찾기 위해 연초부터 내부 워크숍을 여러 차례 운영하고 고민을 거듭했습니다. 하루 요약 일기 생성 서비스는 당시에 나왔던 아이디어들 중 하나로, 처음에는 친근한 이미지를 곁들이거나 금융 특화형 SNS까지 다양한 기능을 연결해 보자는 의견도 있었습니다.
본격적인 서비스 개발은 Elena, Vivaan, Luna가 체크카드 결제 내역을 기반으로 일기를 생성하는 PoC를 사내에 공개한 후, 서비스 기획 부서에서 흥미롭게 보고 이벤트에 적용해 볼 것을 제안해 주면서 시작되었습니다. GPT 계열 언어모델이 텍스트로만 된 결제 내역을 정확히 변환해 주었고, 2~3단계 질문 만으로 이모티콘까지 포함된 센스 있는 표현을 인스타그램 스타일로 자연스럽게 생성해 주는 결과가 이목을 끌었습니다. 시작은 호기로웠지만 카카오뱅크의 생성형 AI 기반 첫 번째 서비스가 탄생하기까지는 신기술 검증부터 시나리오 기획과 최적화까지 많은 요소를 고려하고 확인하는 절차를 거쳐야 했고 서버, 클라우드, 모바일 등 여러 개발 부서 도움이 필요했습니다.
주요 연구 개발 요소
우선 LLM 서비스들의 대표 한계점으로 익히 알려진 환각 현상이 발생하지 않도록 보완해야 했습니다. 잘못된 해석이나 맥락과 상관없이 부적절한 단어 노출은 애초에 문제가 발생하지 않도록 상황을 정의하는 것도 필요했습니다. 예를 들면, ○○페이와 같은 간편 결제 서비스를 이용해 결제한 내역은 ‘소프트웨어업’으로 인식돼서 ‘취업을 위해 노력했어’라는 엉뚱한 결과를 생성했습니다. 가맹점 업종명이 정확하지 않거나 일기 형식에 맞지 않은 경우 전체적으로 데이터 재가공을 거치고 기존 가맹점 분류 체계를 보완하는 작업을 수행했습니다.
mini 서비스에 맞게 기술적으로 튜닝하는 작업은 대규모 데이터 정제, 전처리는 물론이거니와 최적 프롬프트를 찾기 위한 막대한 테스트가 필요했습니다. 개인신용정보 관리 규정에 위배되지 않으면서 일기 문맥을 유지할 수 있는 지시어를 발굴했으며, 적절한 길이로 가독성을 살리고 재미도 반영될 수 있게 중요 키워드와 다채로운 표현들을 미리 추가했습니다. 수개월 동안 시행착오를 거치면서 프롬프트 디자인을 개선하고 보니 결제 내역에 따뜻한 응원 문구를 일관성 있게 덧붙이는 개인별 일기를 완성할 수 있게 되었습니다.
Prompt Engineering 팁
생성형 AI로 발랄한 10대 학생들에게 어울리는 일기를 만들어내기 위해 최신 Prompt Engineering 기법을 총동원했습니다. 학생이라면 학교 생활 및 취미 관련된 설명도 챙기면서 응원 형식 메시지에 집중하고, 기분을 색깔로 변환해서 감정카드를 만들어주는 시각적 재미 요소를 가미했습니다. 중학생은 풍성한 감탄사를 더하고, 고등학생은 미래지향적 다짐을 추가해 보기도 했습니다.
Prompt Engineering 기법들 중에는 특히 아래 4가지가 생성형 AI에 원하는 의도를 잘 반영하는데 효과적이었습니다.
Prompt Engineering 기법
•
지시 단계 분할 및 반복 : 데이터 분석, 초고 생성, 스타일 반영 등
•
입출력 형식 지정 : 결제 내역 예시 제시와 말투 일관성 유지
•
역할 주입 : 연령대와 작가 역할 강조해서 요청
•
선행 답변 기반으로 다음 지시 수행 : 알고 있는 지식이나 소화할 수 있는 역할 먼저 질의 후 요청
여러 차례 실험 해보니 입력 데이터가 상세하고 많다고 해서 언어모델의 답변 품질과 정확도가 무조건 향상되지는 않았습니다. 바라는 스타일에 맞춰 사실과 감정이 적절히 들어가게 하기 위해서는 데이터 양과 수준을 다듬어주는 데에도 최적화가 필요했습니다.
서비스 최적화 과정
‘오늘의 mini 일기’ 이벤트는 생성형 AI 적용은 모든 산업을 통틀어서도 참고할 만한 사례가 별로 없는 상황이었기에, 시행착오를 통해 전사가 신기술에 대한 경험을 쌓는 기회가 되었습니다. 최종 구현된 예시는 청소년이 mini카드로 편의점, 카페, PC방을 이용 후 '나의 하루 보기' 버튼을 누르면, "오늘은 편의점에서 아침을 먹었다. 수업이 끝난 후 동네 커피집에서 아이스라테를 마셨는데 맛있었다. 저녁에는 친구들과 PC방에 가서 2시간 동안 게임을 했다. 재밌는 하루였다."와 같은 일기 한편이 자동으로 생성되는 형태였습니다.
가장 중요하게 고려했던 부분은 제한시간 내 일기를 성공적으로 생성해 내기 위해 클라우드 자원을 충분히 확보하면서 응답 지연이나 오류 발생 시 불편함이 없도록 예외처리 하는 것이었습니다. 클라우드 리전 별로 쓸 수 있는 GPT 모델과 버전별 성능 및 응답속도 차이가 있는 것도 고려해 개발했습니다. 신규 API 구현, 모니터링 시스템 탑재, 시스템 통합 및 성능 테스트 등 각 단계를 거칠 때마다 닥친 난제들은 사내 서버 / 클라우드 개발자들이 적극 도움을 준 덕분에 순차적으로 모두 해결해 냈습니다.
대고객 금융 서비스에서 주의할 점
연구소 내부에서 나왔던 기술 아이디어가 고객 서비스로 최종 탄생하기 위해서는 철저한 사전 검증과 오류가 없도록 빈틈없이 다듬어지는 과정이 필요하다는 것을 ‘오늘의 mini 일기’ 이벤트를 통해 배울 수 있었습니다. 밖에서는 보이지 않았지만 이번 이벤트는 생성형 AI 가 적용된 국내 첫 대고객 사례이다 보니 보안성 심의를 통해 안전성 확보에 만전을 기했으며, 장애 등급 산정 및 대비 시나리오 작성과 모의해킹 점검 준비도 철저히 거쳤습니다. 각 절차를 지원하기 위해 정보보호, IT기획, 법무 관련 부서도 많은 애를 써주어서 수월하게 끝날 수 있었습니다.
결과적으로 카카오뱅크 DAU 증대, 혁신적인 브랜드 이미지 확보, 고객 재미 요소 제공과 같은 목적을 새로운 기술로 달성했기에 연구소 입장에서는 소중한 경험적 자산이 되었습니다. 또한 직접 생성형 AI에 대한 운영 경험을 확보하면서 신규 알고리즘과 연구 과제에 대한 아이디어도 도출할 수 있었습니다. 더 구체적인 연구 배경과 기술 개발 성과는 다음 편을 통해 정리할 예정입니다.
카카오뱅크 금융기술연구소
Financial Tech Lab