Dropout
·
DeepLearning/Concept
Dropout 학습 중 Overfitting을 막기 위한 방법 중 하나이다. Hidden layer의 일부 유닛의 동작을 랜덤 하게 생략하여 학습 효율을 높이는 것. Overfitting 학습 데이터에 너무 특화되어 모델이 학습하지 않은 데이터에 대해 일반화되지 못한 경우를 overfitting이라고 한다. 학습 중 아래 그림과 같이 train loss는 점차 줄어들고 있지만 학습 데이터 외의 loss값, 즉 val loss가 큰 폭으로 흔들리거나 증가한다면 이는 학습 데이터에는 적합해지지만 그 외 데이터에는 오히려 잘못된 예측을 한다는 얘기가 된다. 이런 상황을 overfitting 되었다고 할 수 있다. 이러한 overrfitting을 막기위한 방법으로 다음과 같은 방법들이 있다. 데이터의 양을 늘리..
woongs_93
'Model Combination' 태그의 글 목록