Multi GPU 학습 모델 불러오기
·
언어 | Framework/Pytorch
학습 시 Multi GPU 사용을 위해 nn.DataParallel을 사용.# ...model = nn.DataParallel(model)# ...  2개의 GPU에서 학습한 모델을 불러올때 아래와 같은 에러가 발생.pytorch RuntimeError: Error(s) in loading state_dict for XXX  nn.DataParallel로 병렬화 하면서 state_dict 키값에 'module.'이 붙으면서 맞지 않아서 발생하는 오류라고 한다. 학습 완료 후, 모델 추론 시 아래와 같은 방법으로 해결.from collections import OrderedDictmodel = MyModel().to(device)state_dict = torch.load('XXX.pth')new_state..
[Pytorch] tensor to PIL Image
·
언어 | Framework/Pytorch
tensor to numpy output_tensor = model(data) output_tensor = output_tensor.cpu() # tensor to numpy output_tensor = torch.squeeze(output_tensor[0]) output_numpy = output_tensor.numpy() ## if output_tensor.requires_grad==True # output_numpy = output_tensor.detach().numpy() numpy to PIL Image from torchvision import transforms # numpy to PIL Image output_image = transforms.ToPILImage()(output_numpy)
[Pytorch] model.eval()
·
언어 | Framework/Pytorch
Pytorch를 사용해서 학습을 할 때, 보통 다음과 같이 구성한다. #......... for epoch in range(0, epoch_num): for data, label in data_loader: model.train()### train setting output = model(data) ### # 학습 과정... ### model.eval()### evaluation setting with torch.no_grad(): ### # 평가 과정... ### #......... 위 코드에서 model.train()은 train 할 때, model.eval()은 evaluation(평가, val_loss 계산) 할 때 앞서 실행한다고 알고 있다. 정확히 무슨 동작을 하는 것인가... Pytorch ..
[Pytorch] numpy, tensor, list 변환
·
언어 | Framework/Pytorch
pytorch에서 자주 쓰이는 형태인 numpy, tensor, list 간에 변환. import torch import numpy as np # numpy to tensor np_arr = np.zeros((3, 3), dtype=np.float32) tensor_arr = torch.from_numpy(np_arr) # tensor to numpy np_arr = tensor_arr.numpy() # tensor to list list = tensor_arr.tolist() # list to tensor tensor_arr = torch.tensor(list) 간단하다.
[Pytorch] Multi GPU
·
언어 | Framework/Pytorch
pytorch에서 여러개의 GPU 사용하기. import torch model = MyModel() # CNN이든 뭐든 사용할 모델 device = 'cuda' if torch.cuda.is_available() else 'cpu' if (device == 'cuda') and (torch.cuda.device_count() > 1): model = nn.DataParallel(model) model.to(device) 간단하다.
woongs_93
'언어 | Framework/Pytorch' 카테고리의 글 목록