롤플레잉 기반 유해쿼리 생성 방법론

구분

특허

상태

출원

출원번호

10-2025-0109654

날짜

2025/08/08

11 more properties

본 발명은 Jailbreak 등 프롬프트 어택 탐지 모델 학습용 데이터 생성 방법으로 현실에서 유해 쿼리 수집이 어려운 점을 보완하기 위해, 무해 쿼리를 수집한 뒤 롤플레잉 기법으로 현실성 높은 유해 쿼리로 자동 변환한다. 이를 통해 경계가 모호한 고품질 유-무해 쿼리 데이터를 확보하여 탐지 모델 성능 향상에 기여한다.

카카오뱅크 금융기술연구소

Financial Tech Lab

경기도 성남시 분당내곡로 131 판교테크원 타워2 15층 (13529)

문의 하기