[LLM] 임베딩이란?

오늘은 임베딩에 대해서 알아보겠습니다. 음성, 언어 모델이나 LLM을 개발할때, 임베딩 모델은 정말 중요한 역할을 합니다.

 

 

1. 단어 임베딩

Word2Vec이나 GloVe와 같은 단어 임베딩 모델은 "사람", "인간" 같은 유사한 의미를 가진 단어들이 벡터 공간에서 가까이 위치하도록 학습합니다.

 

2. 텍스트 임베딩

BERT와 같은 모델은 전체 문맥을 고려하여, 문장 간의 의미적 관계를 포착하는 데 중점을 둡니다.