ADV-060숲신뢰 관리형
레드팀 평가
Red Teaming
학습 난이도
숲
AI 시스템의 취약점과 위험을 일부러 찾아보는 평가 방식.
한 문장으로 이해하기
레드팀 평가는 일부러 공격자 입장에서 AI의 약점과 위험을 찾아내 보강하는 평가 방식입니다. 출시 전에 허점을 미리 메웁니다.
이렇게 떠올리세요
보안 점검을 위해 모의 침입을 시도해 보는 것과 같습니다.
실제 예시
탈옥과 유해 답변을 일부러 유도해 안전장치를 보강합니다.
핵심 한 문장
레드팀 평가는 일부러 약점을 찾아 보강하는 평가입니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.