Tips

Tips

[TIPS] Why is image data training speed so low @ Google Colab?

1. Problem   Pytorch Framework를 이용하여 CartoonGAN 학습을 위해 Image들을 불러와 학습하는데, 속도가 상당히 느리다.  구글 코랩을 사용하여 Google Drive의 Dataset 폴더에 이미지들을 업로드 해놓고 불러오도록 설정한다.GPU를 사용해도 한 epoch을 도는데 시간이 너무 많이 걸리는 문제가 발생한다.   이와 같은 현상에 대해 Stackoverflow에서 미리 언급했음을 찾아볼 수 있다. https://stackoverflow.com/questions/59120853/google-colab-is-so-slow-while-reading-images-from-google-drive Google Colab is so slow while reading imag..

Tips

[TIPS] save_image( ) 함수 적용시 grayscale image가 color image로 변하는 이유

1. Grayscale Image turn into Color Image 우선, 이러한 현상에 대해 논의한 내용들은 아래의 링크에 포함되어 있다. https://discuss.pytorch.org/t/save-one-channel-normalized-tensor-to-image/38402 Save one channel normalized tensor to image When training, I torchvision.normalize image to [-1,1]. The output of network like this [16,1,256,256]. So I want to save output tensor to image, but torchvision.utils.save_image() will make o..

Tips

[TIPS] Transposed Convolution

1. Upsampling w/ Interpolation Methods    데이터의 효율적인 연산을 위해 차원을 축소하는 과정을 'Downsampling'이라고 하고,   반대로 데이터의 크기를 역으로 늘리는 (차원을 확대하는) 과정을 'Upsampling'이라 한다.   Upsampling을 이용하면 Feature Map에서 시작하여 이미지를 생성할 수 있다. 이때, Upsampling 과정 중 추가로 데이터를 생성하는 방법도 여러가지가 있는데, 이를 보간법이라 한다. 보간법(interpolation)에는 크게 4가지의 종류가 있다.1. Nearest Neighbor(Unpooling): 복원해야 할 값을 가까운 값으로 복제 (각 원소를 복사해서 넣음)2. Bed of Nails(Unpooling): ..

Tips

[Tips] nn.Sequential( )안에 tensor의 shape(size)을 조정

https://github.com/pytorch/vision/issues/720 Reshape/View as a module? · Issue #720 · pytorch/vision I was wondering if there is module which performs reshape/view so that it can be added to nn.Sequential just as other modules like Conv2d or Linear. The reason I want this feature rather than simpl... github.com Q1 Q1. nn.Sequential( ) 안에서 tensor의 shape(size)을 바꿀 수 있는가? A. 따로 Class를 정의하여 사용해야 된다...

Tips

[Tips] transforms.ToTensor( )의 사용 순서

Q1 Q. Data Augmentation 도중 transforms.ToTensor( ) 이전에 transforms.Normalize( )를 하면 오류가 왜 생겨? https://discuss.pytorch.org/t/not-clear-about-the-sequence-of-transforms-normalize-and-transforms-totensor/126254 Not clear about the sequence of transforms.Normalize and transforms.ToTensor Working with RGB image and binary mask as a target, I am confused about transformations. Is it necessary to rescale..

Tips

[Tips] Binary Classification vs Multi-Class Classification @ Train, Test Process

Q1 Q. Multi-Class Classification의 경우 위와 같이 코드를 작성하면 되지만, Binary Classification의 경우는 어떻게 다르게 작성해야 되는가? https://stackoverflow.com/questions/65916356/image-classification-using-pytorch Image classification Using Pytorch this is the code where I was working on Image Classification using Pytorch and I'm not able to get the accuracy right. the accuracy is exceeding 100 ,can anyone help me to find the ..

Tips

[Tips] Class 변수 vs Instance 변수

https://engineer-mole.tistory.com/99 [python] python 인스턴스 변수와 클래스 변수 클래스가 가지는 변수에는 클래스 변수와 인스턴스 변수 두 종류가 존재한다. 이 포스팅에서는 변수의 선언 방법이나 차이점에 대해 설명한다. 1. 인스턴스 변수란 인스턴스변수란 각각의 인스 engineer-mole.tistory.com 1. Instance Variable Instance Variable은 각각의 인스턴스 마다 독립한 변수이다. 1) Instance Variable의 선언과 접근 방법 instance variable를 만드는 경우는 클래스 내의 메소드에 아래와 같이 작성한다. 일반적으로 instance variable의 생성은 Constructor 클래스 __init_..

Tips

[Tips] Global Average Pooling (GAP) 이란?

1. Global Average Pooling Global Average Pooling이란 기존에 Feature Map의 $H' \times W'$의 특정 영역을 Subsampling 하지 않고 채널 단위로 평균값을 추출하는 방법이다. $z_c = \frac{1}{H \times W} \sum_{i=1}^{H} \sum_{j=1}^{W} u_c(i, j)$ 각 Channel $C$의 Global Average: $z_c$ 각 Channel의 Feature Map $u_c$의 모든 요소의 평균값을 계산 $H \times W$ 크기의 Feature Map에서 모든 요소 $(i, j)$의 값을 합한다 이후 총 요소 수 $H \times W$로 나누어 $z_c$를 얻는다 3D Output Feature map을..

Tips

[Tips] nn.MSELoss vs F.mse_loss

Q. F.mse_loss와 nn.MSELoss 간의 차이는 무엇인가? A. 아무런 차이가 없다. 다만, 사용하는데 있어서 사용법이 다를 뿐이다. 만약 nn.MSELoss를 사용하고자 한다면 아래의 2가지 경우와 같이 사용 가능하다. criterion = nn.MSELoss() loss = criterion(outputs, batch_y) # or loss = nn.MSELoss()(outputs, batch_y) 다만, 다음과 같이 사용하면 절대 안된다. 왜냐하면 MSELoss object를 먼저 생성하고, 이후에 적용해야 하기 때문이다. loss = nn.MSELoss(outputs, batch_y) That is, you have to construct an MSELoss object first, a..

Jae.
'Tips' 카테고리의 글 목록