LLM 가드레일은 어디에 세우나 — 입력, 출력, 그리고 도구
가드레일은 모델 앞뒤에 세우는 검사 장치다. 다만 프롬프트 인젝션을 완벽히 막는 방법은 아직 없다. 가드레일이 맡을 일과 설계로 풀어야 할 일을 나눠 본다.가드레일이 하는 일LLM 가드레일은 모델에 들어가는 입력과 모델이 내놓는 출력을 검사해 막거나 고치는 장치를 통틀어 부르는 말이다. 욕설·혐오 표현 같은 유해 콘텐츠, 주민등록번호 같은 민감정보, 서비스 주제를 벗어난 질문, 그리고 모델의 지시를 바꾸려는 프롬프트 인젝션이 주요 검사 대상이다.먼저 기대치를 맞춰 둘 필요가 있다. OWASP는 생성형 AI가 확률적으로 동작하는 특성상 프롬프트 인젝션을 확실하게 막는 방법이 있는지 불분명하다고 적었다. RAG나 파인튜닝도 이 취약점을 완전히 없애지 못한다는 연구 결과도 함께 소개했다 [1]. 가드레일은 위..
2026. 10. 13.