ADV-005숲모델 해부형
토큰 임베딩
Token Embedding
학습 난이도
숲
토큰을 AI가 계산할 수 있는 숫자 표현으로 바꾸는 것.
한 문장으로 이해하기
토큰 임베딩은 글자 조각인 토큰을 AI가 계산할 수 있는 숫자 벡터로 바꾸는 과정입니다. 의미가 비슷한 토큰은 비슷한 숫자로 표현됩니다.
이렇게 떠올리세요
단어마다 고유한 좌표를 붙여 지도 위에 올려놓는 것과 같습니다.
실제 예시
'왕'과 '여왕'의 임베딩은 서로 가까운 위치에 자리합니다.
핵심 한 문장
토큰 임베딩은 글자 조각을 숫자 좌표로 바꾸는 단계입니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.