안정성과 혁신 모두를 위해 도약하는 우리의 이야기를 담았습니다
Contents
if(kakao)25에서 소개한 카카오뱅크의 프롬프트 어택 탐지 기술
이프카카오는 카카오 그룹의 기술 비전과 연구 성과를 공유하는 연례 행사로, 한 해 동안 집중해 온 기술적 도전과 성과를 개발자 커뮤니티와 함께 나누는 자리입니다. 올해 행사에서는 카카오뱅크 내에서 금융기술연구소가 단독으로 발표 세션에 참여하여, ‘기술 너머의 가능성’이라는 주제 아래 프롬프트 어택(Prompt Attack) 탐지 모델 개발기를 소개했습니다.
Prompt Attack에 대항하는 공든 요새 쌓기 : lab.fortress
•
본 글의 일부는 <카카오 Tech Ethics> “더 안전한 금융거래를 지원하는 ‘AI 스미싱 문자 확인’ 서비스”에도 같이 발행되었습니다. 인용된 이미지의 저작권과 출처는 <카카오 Tech Ethics>입니다.
Contents
스미싱(Smishing)은 휴대폰 문자메시지(SMS)나 SNS로 가족이나 지인, 정부 기관을 사칭해 개인정보를 탈취해 2차 피해를 입히는 범죄입니다. 규제 당국의 자료에 따르면 스팸 메시지 건수는 상반기 대비 2배 가량 증가했습니다. 경찰청은 최근 2년간 스미싱 피해액이 600억 원 억원에 달할 것으로 전망했습니다. 특히 스미싱은 단순한 개인 정보 유출이나 소액 사기와 달리 불법 대출을 비롯한 금융 사기와도 연관이 많아 카카오뱅크에서는 AI로 이를 예방할 수 있는 방안을 고민해 왔습니다.
더 안전한 금융거래를 지원하는 ‘AI 스미싱 문자 확인’ 서비스
AI로 확장해 나가는 if(kakaoAI) 2024
올해 6회째를 맞는 이프카카오는 카카오 그룹의 기술 비전 공유 행사로, 한 해 동안 역점을 둔 기술 및 연구 개발 성과들을 개발자 커뮤니티에 공개하고 소통하는 장입니다. 특별히 올해는 주제를 AI에 집중시켜 ‘모든 연결을 새롭게’라는 슬로건을 정했으며, 영문 행사명에 AI를 추가하고 장소도 작년 말 완공된 용인 ‘카카오 AI 캠퍼스’에서 개최하게 되었습니다. 금융기술연구소는 카카오뱅크를 대표해 3개 세션 발표를 참여하여 금융 서비스에 LLM을 어떻게 적용하고 개선하고 있는지에 대한 선도적 시도와 상세한 노하우를 전달했습니다.
금융 도메인 LLM 평가 지표 및 방법 / SHAP 가속화 / 스미싱 탐지
금융기술연구소 if(kakaoAI)2024 3개 세션 발표
•
본 글의 일부는 <카카오 Tech Ethics> ‘카카오뱅크의 AI를 설명하는 방법’에도 같이 발행되었습니다. 인용된 이미지의 저작권과 출처는 <카카오 Tech Ethics>입니다.
Contents
AI를 통한 새롭고 안전한 이용자 경험 제공
카카오뱅크의 AI를 설명하는 방법
Contents
국내 은행 최초 AI 전용 데이터센터 개소
카카오뱅크는 지난 2월 AI 센터를 개소했습니다. AI 센터(AI Data Center)는 AI 연구개발 만을 위해 별도 설립하는 전용 데이터센터로 구글, 마이크로소프트, 아마존을 비롯한 빅테크들도 최근 조 단위 투자 계획을 밝히고 있습니다. 카카오뱅크는 국내 은행 중에서는 처음으로 자체 AI 전용 연구 장비를 보유하게 되었으며, 엔비디아 최신 GPU ‘H100’을 도입했다는 점이 인프라 측면에서 가장 눈에 띄는 부분입니다. AI 센터 덕분에 신분증 인식, 셀카인증(Selfie Authentication), 신용평가 모형, 이상거래탐지시스템(FDS), AI 고객센터(AICC) 등 카카오뱅크가 진행 중인 다양한 기술개발에 더욱 박차가 가해질 수 있을 것으로 예상됩니다. 금융기술연구소는 많은 자원과 계산량이 필요했던 안면인식 기술 개발에 H100을 바로 적용해보면서 체험한 개선 효과를 소개하고자 합니다.
안면인식 기술 개발로 살펴본 H100 도입 효과
Contents
금융권 AI 도입 가속화와 규제 대응
모든 산업에서 AI 도입이 가속화되고 있는 가운데, 범국가적 규제 준수와 기술적으로 안정성과 투명성을 확보하는 문제도 같이 중요해지고 있습니다. 금융 산업에서는 고객 응대와 간단한 상담을 해주는 AI 행원이 시중은행 지점에 등장했고, 증권사는 해외주식 정보를 실시간으로 요약해 주는 서비스나 버추얼 애널리스트가 투자 상품을 추천해 주는 서비스를 앱에 탑재했습니다. 이러한 신기술 도입은 정확하고 책임질 수 있는 정보 전달과 고객 보호를 충분히 고려했는지에 대한 법률 검토가 필요하며, 기존 법체계가 새로운 사회 현상과 위험 요소를 온전히 반영하지 못했을 경우 새로운 입법이 이뤄지게 됩니다.
올해 3월 유럽연합 본회의를 최종 통과한 AI법(EU Artificial Intelligence Act)은 AI가 초래할 수 있는 위험을 광범위하게 검토하고 위법 사항에 강도 높은 제재를 채택했다는 점에서 주목을 받았습니다. 유럽연합의 입법 방향성은 익히 알려져 있었고 개별 기업마다 AI 윤리 측면에서 고객 권리 보호와 서비스 안정성 확보를 자율적으로 준비해 왔으나, AI법 시행으로 강제성이 생긴 만큼 더 탄탄한 대비가 필요해진 것입니다. 카카오뱅크도 지난 1월 ‘오늘의 mini 일기' 서비스 출시하고 AI실 조직을 신설하면서 사내외 서비스들과 AI 접목을 전방위적으로 검토하고 있기에, 국내외 AI 규제 동향을 살펴보고 관련해서 대응해 온 과정을 소개해 보고자 합니다.
AI 규제 동향과 카카오뱅크 AI 거버넌스
카카오뱅크 금융기술연구소
Financial Tech Lab