ADV-003숲모델 해부형
셀프 어텐션
Self-Attention
학습 난이도
숲
문장 안의 단어들이 서로의 관계를 살피며 의미를 파악하는 방식.
한 문장으로 이해하기
셀프 어텐션은 한 문장 안의 단어들이 서로를 참고하며 자신의 의미를 다듬는 방식입니다. 같은 문장 내부에서 관계를 계산한다는 점이 핵심입니다.
이렇게 떠올리세요
팀원들이 서로의 역할을 확인하며 자기 일을 조정하는 것과 같습니다.
실제 예시
'그 사과는 맛있다'에서 '그'가 '사과'를 가리킨다는 것을 셀프 어텐션이 연결합니다.
핵심 한 문장
셀프 어텐션은 문장 안 단어끼리 서로를 살피는 계산입니다.
위 문장을 보지 않고 자기 말로 다시 설명해보면 오래 기억에 남습니다.