ADV-044숲위험 탐지형
데이터 포이즈닝
Data Poisoning
학습 난이도
숲
학습 데이터에 악성 정보를 섞어 모델을 오염시키는 공격.
한 문장으로 이해하기
데이터 포이즈닝은 학습 데이터에 악의적인 정보를 몰래 섞어, 모델이 잘못된 행동을 배우게 만드는 공격입니다.
이렇게 떠올리세요
교과서에 거짓 내용을 끼워 넣어 잘못 배우게 하는 것과 같습니다.
실제 예시
공개 데이터에 편향된 글을 대량으로 심어 모델 판단을 왜곡시킵니다.
핵심 한 문장
데이터 포이즈닝은 학습 데이터를 오염시키는 공격입니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.