본 발명은 프롬프트 어택의 탐지 방법에 관한 것이다. 구체적으로는 특정 도메인에서 프롬프트 어택 판단 시, 정상적인 요청을 어택으로 오판하거나 실제 어택을 정상으로 오판하는 문제를 방지하는 방법을 제안한다.
입력된 쿼리의 길이에 따라 적합한 판단 모델을 선택하고 다양한 판단 모델의 조합을 활용, 조건에 따라 가중치를 동적으로 조정하여 프롬프트 어택 여부를 판단한으로써 판단 오류를 최소화하도록 보조한다.
카카오뱅크 금융기술연구소
Financial Tech Lab