owasp top 10 for llm1 [OWASP] OWASP Top 10 for LLM 웹 취약점으로 알게된 owasp에서 LLM(Large Language Model)에 대한 security risk를 분석한 내용에 대해 알아보자 프롬프트 삽입(Prompt Injection): 공격자가 정상적인 프롬프트에 추가적으로 덧붙이는 공격direct 프롬프트: 사용자가 입력창에 입력하는 프롬프트 in-direct 프롬프트: 사용자가 입력하지 않은 시스템 내장 프롬프트ai 모델이 지침을 무시하거나 의도하지 않은 악업을 수행하도록 만든다방어: 컨텐츠 검토 및 보호 기능 탑재 / 입력 검증 기능 필요web proxy, dlp안전하지 않은 출력 핸들링(Insecure Output Handling)불충분한 유효성 검사, 안전 처리로 llm에서 생성된 출력이 다른 구성 요소 및 시스템으로 의도치 않게 전달될.. 2024. 7. 21. 이전 1 다음 728x90