ADV-023숲응답 가속형
프롬프트 캐싱
Prompt Caching
학습 난이도
숲
반복되는 프롬프트 부분을 저장해 비용과 시간을 줄이는 방식.
한 문장으로 이해하기
프롬프트 캐싱은 매번 똑같이 들어가는 긴 지시나 문서 부분을 저장해 두어, 반복 처리 비용과 시간을 줄이는 기술입니다.
이렇게 떠올리세요
매번 쓰는 서식의 공통 부분을 미리 인쇄해 두는 것과 같습니다.
실제 예시
긴 시스템 지침을 캐싱해 두면 이어지는 요청이 더 싸고 빨라집니다.
핵심 한 문장
프롬프트 캐싱은 반복되는 입력을 저장해 비용을 아낍니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.