About
home
금융기술연구소
home

프롬프트 어택 탐지 모델의 학습을 위한 학습 데이터 생성 방법 및 이를 통한 프롬프트 어택의 판단 방법

구분
특허
상태
출원
출원번호
10-2025-0019692
날짜
2025/02/14
11 more properties
본 발명은 프롬프트 어택 탐지 모델의 학습을 위한 학습 데이터 생성 및 증강 방법에 관한 것이다. 구체적으로는 신뢰도 기반의 데이터 레이블 조정을 활용하여 데이터 셋의 품질을 높이고, 특정 도메인에 최적화된 데이터 셋을 생성하는 것을 목적으로 한다. 또한, 금융 시나리오와 같이 특정 도메인에서 발생할 수 있는 오탐 문제를 해결하기 위해 해당 도메인에 특화된 데이터 증강 기법을 적용하여 데이터 셋의 다양성과 범용성을 증대시켜 프롬프트 어택 탐지 모델의 성능을 높일 수 있다.

카카오뱅크 금융기술연구소

Financial Tech Lab
Copyright ⓒ KakaoBank Corp. All rights reserved.