인공지능을 좋아하는 곧미남

오늘은 간단히 pytorch에서 제공하는 대표적인 모델 구현에 사용하는 nn.Module이나 기타 다른 모델에서 input data를 손 쉽게 전달할 수 있게 만든 def forward()에 관해 알아보겠습니다. 이건 앞전에 제가 python 문법인 "__call__" 설명 게시물을 한번 보고 오시면 도움이 되실겁니다. 오늘 내용은 아래 목차와 같습니다.  1. "def forward()"의 역할 2. 어떻게 pytorch에서 "def forward()"를 구현했는가?1. "def forward()"의 역할우선 def forward(self, x)의 메커니즘을 알기위해서는 python의 "__call__"과 클래스 상속에 관한 내용을 숙지해야합니다. 제 블로그 게시물에 "__call__"과 클래스 상속 ..

오늘은 pytorch에서 제공하는 torchvision.models.resnet50 기준으로 ResNet의 구현내용을 알아보겠습니다. 오늘의 내용은 아래 목차와 같습니다. 1. ResNet Contribution 2. ResNet Layer 구성 3. 구현 코드 설명 1. ResNet Contribution 우선, ResNet은 Input Image를 Deep한 Layer 구성을 통해 Feature를 찾는 역할을 합니다. 하지만 Layer 구성이 깊어지면 깊어질수록 좋지 않은 결과를 얻게 되었습니다. 이런 내용이 발생하는 이유는 학습 신경망에서 Back Propagation을 할때 weight에 활성화 함수의 편미분을 구해 그 값을 곱해주는 연산과정이 있습니다. 이때 첫 번째 layer..

오늘은 딥러닝 아키텍쳐를 구현할때 여러 Layer를 순서대로 층을 구성할 수 있는 방법인nn.Sequential 클래스에 관해 알아보겠습니다.제가 준비한 내용은 아래와 같습니다.  1. nn.Sequential의 목적 2. nn.Sequential의 사용방법 3. nn.Sequential에서 원하는 layer 불러오기. 4. 내용 고찰1. nn.Sequential의 목적     - Multi Layer 구성을 만들기 위해 사용2. nn.Sequential의 사용방법    - 코딩 시 표현법은 총 두 가지입니다.        1) layer마다 nn.Sequential Instance 부여하기 self.layer1 = nn.Sequential( ConvLSTM(in_channels=num..

오늘은 pytorch, tensorflow, numpy에서 각 Tensor, Tensor, Array의 Dimension을 다루는 함수들을 알아보겠습니다. 오늘의 내용은 아래 목차와 같습니다. 해당 내용은 지속적으로 업데이트 예정입니다. 1. pytorch function 2. tensorflow function 3. numpy function 4. 유사한 function 모음 표 1. pytorch function 1) torch.tensor(x).unsqueeze(i) - x의 tensor shape에서 원하는 i 자리에 1의 값을 가지는 dimension 추가. - ex) x = 2) 2. tensorflow function 1) tf.expand_dims(x, axis=i) - ..

pytorch의 패키지를 사용하여 Image Data를 Load하는 코드 설명과 과정에 대해서 알아보겠습니다. Data Augmentation과 os.listdir를 이용한 Window File folder에서 파일을 가져오는 방법도 있으니 참고하시면됩니다. 제가 pytorch에서 사용한 Dataloader관련 패키지는 "torch.utils.data.Dataset"과 "torch.utils.data.DataLoader"입니다. 오늘의 내용은 아래와 같이 간략히 정리됩니다. - INDEX - 1. import os를 이용한 image file명 불러와 list에 저장하기. 2. torch.utils.data.Dataset 클래스를 사용하여 저장된 image file명 list에서 file경로를 불러와 각..

class의 magic function인 __call__에 관해 알아보겠습니다. 1. "__call__"의 사용목적 및 기본예시 2. "__call__"을 사용하여 pytorch에서 nn.Module 패키지 내부적으로 수행되는 def forward(self, x)의 기능을 __call__로 구현 1. "__call__"의 사용목적 및 기본예시 1) 사용 목적: 클래스의 객체를 호출하게 만들어주는 매서드 __call__! - class와 __init__ 매서드를 정의해주고 __call__ 매서드를 정의한 후 class 객체를 생성해주고 그 생성자를 호출하면 __call__ 매서드의 명령어가 실행된다. 2) 예시 코드 class A(): def __init__(self, x, y): sel..

오늘은 torch.nn.Module.parameters(), named_parameters()를 이용하여 Deep Neural Network의 convolution layer의 parameters인 weight, bias를 추출해보겠습니다. 오늘의 내용은 아래와 같습니다. 1. torch.nn.Module.parameters() 설명 2. torch.nn.Module.named_parameters() 설명 제가 구성한 model은 아래 코드와 같습니다. - 구현 코드 - import torch import torch.nn as nn class CNN(nn.Module): def __init__(self, img_size, num_class): super(CNN, self).__init_..

오늘은 torch.nn.Module 패키지를 활용한 Deep Neural Network를 구축해보고, 내가 얻은 인사이트를 공유하겠습니다. 1. 저는 torch.nn.Module 패키지로 보통 클래스를 생성하는데, nn.Module을 기반클래스로 상속하여 파생클래스인 Model(CNN)을 생성하여 구축합니다. (여기선 CNN이라는 Class 명을 사용했습니다.) import torch import torch.nn as nn class CNN(nn.Module): def __init__(self, img_size, num_class): super(CNN, self).__init__() self.conv = nn.Sequential( nn.Conv2d(3, 32, 3, 1, 1), nn.LeakyReLU(0..