지치지 않기 위해서 매일 조금씩이라도 성취감? 소확행?을 느껴보자
사실 매일 반복되는 일상에 그런 것들을 찾는게 쉽지는 않다
그렇지만 긴 여정이 될 지금 나의 도전에 있어서 지치지 않고 끝까지 가기 위해서는 그런 것들이 필요해보인다
시간이 없어? 못할 것 같아? 실패하면 어떡하지? 다 핑계일 뿐이다. 일단 해보고 생각하자. 그리고 머리도 좋은 편이라고 생각하기 때문에 충분히 할 수 있을 것이라고 생각한다.
실습내용
ResNet 사용하여 이미지를 학습하고 10개의 카테고리를 갖는 이미지를 분류하는 이미지 분류기를 생성합니다. CIFAR
ResNet
깊은 신경망(152 layers… ) 학습이 가능하게 하는 skip connections 구조
Batch Normalization을 적용
분류기 학습을 위한 FC를 구현하지 않고, GAP(Global Average Pooling)을 수행
모듈 구조
template/
!python main.py
Downloading https://www.cs.toronto.edu/~kriz/cifar-10-python.tar.gz to ./data/cifar-10-python.tar.gz
argparse 사용하기
하이퍼파라미터를 변수로 선언하여 사용할 경우
필요한 변수를 한꺼번에 사용하고, 코드에서 아래와 같이 사용
모델을 학습시킬 때 마다 코드를 수정하지 않고, 파이썬 코드를 run할 때 특정 매개변수의 조건을 변경하여 수행하고자 할때, argparse를 사용하면 효과적임
import argparse
parser = argparse.ArgumentParser()
parser.add_argument('-gpu', '--gpu', dest='gpu', type=int, default=0)
parser.add_argument('-m', '--momentum', dest='momentum', type=float, default=0.9)
parser.add_argument('-w', '--weight_decay', dest='weight_decay', type=float, default=0.0001)
parser.add_argument('-f', '--factor', dest='factor', type=float, default=0.1)
parser.add_argument('-lr', '--lr', dest='lr', type=float, default=0.1)
parser.add_argument('-b', '--batch_size', dest='batch_size', type=int, default=128)
parser.add_argument('-p', '--patience', dest='patience', type=int, default=5)
parser.add_argument('-e', '--max_epoch', dest='max_epoch', type=int, default=100)
args = parser.parse_args()
print(args)
하이퍼파라미터를 사용하는 곳에서 다음과 같이 args의 속성값을 호출하여 설정
EPOCHS = args.max_epoch!python main_args.py -e 5
Namespace(gpu=0, momentum=0.9, weight_decay=0.0001, factor=0.1, lr=0.1, batch_size=128, patience=5, max_epoch=5)
