인공지능을 좋아하는 곧미남

진짜 어마어마한 삽질을 많이 했다!나의 문제는 이거였다.도커 컨테이너 run할때 -v로 dataset 공유 폴더를 연동했는데, 그게 작업 폴더 경로에 있었습니다. 근데 이 dataset 공유 폴더에 1000만개 이상의 wav데이터가 존재합니다. 그걸 pylance가 작업 폴더의 파일들을 읽어서 뭐 처리를 하는데, heap 메모리가 초과되어 oom 문제로 정상적으로 작동하지 않았던거죠.문제 파악 방법 아래 캡처본과 같이 VSC, Python 언어 서버에서 터미널-출력 내용을 보면, 아래와 같이 Error가 출력된다.Error 내용 : FATAL ERROR: Ineffective mark-compacts near heap limit Allocation failed - JavaScript heap out of..

오늘은 임베딩에 대해서 알아보겠습니다. 음성, 언어 모델이나 LLM을 개발할때, 임베딩 모델은 정말 중요한 역할을 합니다.  1. 단어 임베딩Word2Vec이나 GloVe와 같은 단어 임베딩 모델은 "사람", "인간" 같은 유사한 의미를 가진 단어들이 벡터 공간에서 가까이 위치하도록 학습합니다. 2. 텍스트 임베딩BERT와 같은 모델은 전체 문맥을 고려하여, 문장 간의 의미적 관계를 포착하는 데 중점을 둡니다.

https://arxiv.org/abs/2501.09223 Foundations of Large Language ModelsThis is a book about large language models. As indicated by the title, it primarily focuses on foundational concepts rather than comprehensive coverage of all cutting-edge technologies. The book is structured into four main chapters, each exploring a key aarxiv.org 해당 서적을 읽으면서 LLM의 기초에 대해서 이해하고 모델 학습 방법을 알아본다. 이 색깔은 제가 생각한 부분을 ..

https://www.acmicpc.net/problem/1032 [내가 구현한 내용] 결과 통과!if __name__ == "__main__":    N = int(input())    a = []    for i in range(N):        a.append(str(input()))    if N == 1:        print(a[-1])            else:        str_length = len(a[0])        first_text = a[-1]        second_text = a[-2]        reference_text = []        # 첫번째, 두번째 TEXT 비교해서 reference txt 만들고        for i in range(str_l..

오늘은 sys.path, sys.modules에 대해 알아보고, python에서 소스코드가 실행되는 장소를 적절하게 설정하는 방법을 알아보겠습니다.   제가 겪은 경험으로는 python pip lib openwakeword 모듈을 install해서 /usr/local/lib/python3.10/dist-packages/openwakeword 이 경로에 있는 소스 파일들에 vsc가 접근해서 수정하게 되더라고요! 근데 저는 수정된 내용을 github에 바로 commit하기 위해서 local path인 /home/openWakeWord/openwakeword 에서 소스 파일들을 수정하려고 했습니다. 하지만, 처음에 import 할 당시 /usr/local/lib/python3.10/dist-packages/o..

오늘은 __init__.py를 활용하여 특정 폴더에 있는 다양한 source 파일을 끌어 쓰고, 다양한 source 파일 추가하고, 삭제하여 쉽게 관리하는 방법을 알려드리겠습니다. __init__.py를 활용해서 다양한 source code를 관리한다! 1. __init__.py 를 활용해서 특정 폴더(models)에 위치하는 py 파일들에 class를 임포트한다. - 예시 __init__.pyfrom .LEE_models_1 import Model_1from .LEE_models_2 import Model_2from .LEE_models_3 import Model_32. 실제로 model을 활용한 py 파일에서 models에 저장된 class를 불러와 인스턴스 생성한다. - 예시 test.pyimpor..

오늘은 다형성에 대해서 알아보고 python의 method overriding 기법을 활용해 다형성에 대한 예시 코드를 구현하고 설명해보겠습니다.다형성이란? 서로 다른 클래스에 선언된 같은 이름의 함수가 다른 동작을 하는 것입니다.직관적인 예로 키보드를 누르는 동일한 행위에 대해 ESC, CTRL, SHIFT와 같은 실제 키가 다른 동작을 하는 것을 의미합니다. Method Override가 다형성의 한 예입니다.# 같은 이름의 함수가 다른 동작을 하게 만들기.class Student_1: def __init__(self, money): self.money = money def payback(self): return s..

오늘은 캡슐화에 대한 내용을 알아보고 간단한 예제를 통해 이해를 해보겠습니다.정의: 클래스에서 내부적으로 사용하는 구현체(변수, 함수)를 외부에서 접근하지 못하게 제한하는 기능을 하는 것. 캡슐화가 어떻게 외부로부터 접근을 제한하게 하는지?클래스내에 변수명 앞에 “__”를 붙이면, 파이썬 내부적으로 “클래스이름_변수명” 이렇게 이름이 변경됩니다. 이를 네임 맹글링이라고 칭합니다. 예시 코드를 통해 이해가 쉽게 설명드리겠습니다.class Person: def __init__(self, age): self.__age = age # 캡슐화된 변수를 읽기 (get) def get_age(self): return self.__age # 캡슐화된 변수를 ..