인공지능을 좋아하는 곧미남

오늘은 임베딩에 대해서 알아보겠습니다. 음성, 언어 모델이나 LLM을 개발할때, 임베딩 모델은 정말 중요한 역할을 합니다.  1. 단어 임베딩Word2Vec이나 GloVe와 같은 단어 임베딩 모델은 "사람", "인간" 같은 유사한 의미를 가진 단어들이 벡터 공간에서 가까이 위치하도록 학습합니다. 2. 텍스트 임베딩BERT와 같은 모델은 전체 문맥을 고려하여, 문장 간의 의미적 관계를 포착하는 데 중점을 둡니다.

https://arxiv.org/abs/2501.09223 Foundations of Large Language ModelsThis is a book about large language models. As indicated by the title, it primarily focuses on foundational concepts rather than comprehensive coverage of all cutting-edge technologies. The book is structured into four main chapters, each exploring a key aarxiv.org 해당 서적을 읽으면서 LLM의 기초에 대해서 이해하고 모델 학습 방법을 알아본다. 이 색깔은 제가 생각한 부분을 ..