부스트캠프 AI Tech 2기/2기 U-Stage
3주차 Hyper parameter Tuning
Hyper parameter 모델 스스로 학습하지 않고 학습을할때 사람이 지정해야하는 Parameter ex_ learning rate(NAS), optimizer, 모델의 크기 하이퍼파라미터에 의해 값이 크게 좌우됐지만 요즘은 그닥 마지막 0.01을 쥐어짜야할 때 도전 결과가 잘안나오면 모델을 변경 데이터를 변경 혹은 추가 혹은 점검 hyper parameter tuning -> 이 중 데이터가 가장 중요하다 왜냐하면 이미 좋은 모델이 뭔지 알고있다 하이퍼파라미터 튜닝은 마른 수건도 물이 떨어지는지 꽉 짜보자 하이퍼 파라미터 튜닝에 가장 기본적인 방법 grid search: 2배수 등 규칙적으로 하나씩 찾아본다 random search: 큰 스페이스에서 아무거나 랜덤으로 추출해서 사용해본다 => 예전에..
