ADV-050숲위험 탐지형
RAG 오염
RAG Poisoning
학습 난이도
숲
AI가 참고하는 자료에 잘못되거나 악의적인 정보를 심는 공격.
한 문장으로 이해하기
RAG 오염은 AI가 참고하는 검색 자료나 지식베이스에 잘못되거나 악의적인 정보를 심어, 그 내용을 근거로 답하게 만드는 공격입니다.
이렇게 떠올리세요
참고 도서관 서가에 가짜 자료를 몰래 꽂아 두는 것과 같습니다.
실제 예시
사내 문서 저장소에 거짓 정보를 넣어 AI가 그것을 인용하게 만듭니다.
핵심 한 문장
RAG 오염은 참고 자료를 오염시켜 답을 왜곡하는 공격입니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.