ADV-021숲응답 가속형
양자화
Quantization
학습 난이도
숲
모델 숫자의 정밀도를 낮춰 더 가볍고 빠르게 만드는 방법.
한 문장으로 이해하기
양자화는 모델 속 숫자를 더 낮은 정밀도로 줄여 용량과 계산량을 아끼는 기술입니다. 약간의 품질 손해로 속도와 비용을 크게 줄일 수 있습니다.
이렇게 떠올리세요
고화질 사진을 적당히 압축해 용량을 줄이는 것과 같습니다.
실제 예시
큰 모델을 양자화해 노트북에서도 돌아가게 만듭니다.
핵심 한 문장
양자화는 숫자 정밀도를 낮춰 모델을 가볍게 만듭니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.