owasp2 [OWASP] OWASP Top 10 for LLM 웹 취약점으로 알게된 owasp에서 LLM(Large Language Model)에 대한 security risk를 분석한 내용에 대해 알아보자 프롬프트 삽입(Prompt Injection): 공격자가 정상적인 프롬프트에 추가적으로 덧붙이는 공격direct 프롬프트: 사용자가 입력창에 입력하는 프롬프트 in-direct 프롬프트: 사용자가 입력하지 않은 시스템 내장 프롬프트ai 모델이 지침을 무시하거나 의도하지 않은 악업을 수행하도록 만든다방어: 컨텐츠 검토 및 보호 기능 탑재 / 입력 검증 기능 필요web proxy, dlp안전하지 않은 출력 핸들링(Insecure Output Handling)불충분한 유효성 검사, 안전 처리로 llm에서 생성된 출력이 다른 구성 요소 및 시스템으로 의도치 않게 전달될.. 2024. 7. 21. OWASP IoT top 10 - 2018 OWASP는 오픈소스 웹 애플리케이션 보안 프로젝트이다. 주로 웹에 관한 정보노출, 악성 파일 및 스크립트, 보안 취약점을 연구하며 많이 발생하고 보안상 크게 영향을 끼치는 것들 10가지를 선정해 공개한다. (출처 : OWASP 위키백과) OWASP에 웹 취약점만 있다고 생각했는데, IoT 프로젝트도 진행하고 있었다. 그게 바로 OWASP IoT top 10이다. 설명을 보면 IoT 시스템을 구축, 배포 또는 관리할 때 피해야 할 상위 10가지 사항이라고 적혀있다. 이 포스트는 OWASP IoT top 10을 해석하고, 그와 관련된 나의 생각을 적어보았다. 최대한 팩트만을 이용해 생각을 적기 위해 관련 용어들을 검색하는 등 여러가지 노력을 기울였다. OWASP Internet of Things OWASP.. 2021. 9. 21. 이전 1 다음 728x90
