ADV-046숲위험 탐지형
모델 추출
Model Extraction
학습 난이도
숲
AI 모델의 기능이나 정보를 빼내 복제하려는 공격.
한 문장으로 이해하기
모델 추출은 모델에 질문을 잔뜩 던져 그 답을 모아, 기능을 흉내 낸 복제본을 만들려는 공격입니다. 지식재산과 비용 보호가 위협받습니다.
이렇게 떠올리세요
수많은 질문으로 비법을 캐내 똑같은 가게를 차리는 것과 같습니다.
실제 예시
API에 대량 질의를 보내 답을 수집한 뒤 모방 모델을 학습시킵니다.
핵심 한 문장
모델 추출은 질문을 모아 모델을 복제하려는 공격입니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.