본 발명은 입력 쿼리의 유해도 평가를 위한 임계값 자동 결정 방법에 관한 것이다.
구체적으로는 사용자 입력 쿼리에 대한 유해도 평가 모델의 예측 결과를 기반으로 임계값을 동적으로 산출하여, 금융 서비스 환경에서 발생할 수 있는 프롬프트 공격을 효과적으로 차단하고 안전한 서비스 제공을 가능하게 하는 것을 목적으로 한다.
또한, 대규모 언어 모델(LLM)을 활용한 임계값 검증 절차를 통해 판단 오류를 최소화하고, 서비스 제공자의 운영 효율성과 관리 신뢰성을 향상시킬 수 있다.
카카오뱅크 금융기술연구소
Financial Tech Lab