본문 바로가기

Machine Learning/딥러닝

(11)

MDN MDN에서는 출력값을 명시적으로 생성하여 x->y 매핑을 모델링하는 대신 각 대상의 확률 분포를 학습하고 출력을 샘플링한다. 분포 자체는 여러 가우시안(가우스 혼합) 으로 표시된다. 모든 입력 x에 대해 distribution parameters를 학습한다. mean, variance, mixing coefficient k : 가우시안 수 l : 입력 피처 수 (l + 2) k 출력값: the mixing coefficients와 component density parameters를 학습한다. # In our toy example, we have single input feature l = 1 # Number of gaussians to represent the multimodal distribution..

[Keras] Noise Regularization https://machinelearningmastery.com/how-to-improve-deep-learning-model-robustness-by-adding-noise/ How to Improve Deep Learning Model Robustness by Adding Noise Adding noise to an underconstrained neural network model with a small training dataset can have a regularizing effect and reduce overfitting. Keras supports the addition of Gaussian noise via a separate layer called the GaussianNoise laye..

훈련셋, 검증셋, 시험셋 퍼옴: https://tykimos.github.io/2017/03/25/Dataset_and_Fit_Talk/ 데이터셋 이야기 딥러닝 모델을 학습시키려면 데이터셋이 필요합니다. 풀고자 하는 문제 및 만들고자 하는 모델에 따라 데이터셋 설계도 달라집니다. 데이터셋을 어떻게 구성하고 모델을 어떻게 검증할 지 알아보겠습니다. 훈련셋, 검증셋, 시험셋 당신이 고등학교 담임선생님이고 수능 볼 학생이 3명이 있다고 가정을 해봅시다. 이 세 명 중 누가 수능을 가장 잘 볼지 알아 맞혀보도록 하겠습니다. 당신에게는 모의고사 5회분과 작년 수능 문제 1회분을 가지고 있습니다. 다음과 같이 비유될 tykimos.github.io https://book.coalastudy.com/data-science-lv1/week3/..

Validation, Test 데이터세트 비교 Validation 데이터세트는 모델의 성능을 평가하여 하이퍼파라미터 튜닝에 쓰일 수 있다. (층의 수, 층의 유닛 수 등) 검증 세트의 성능을 기반으로 모델의 설정을 튜닝하면 검증 세트로 모델을 직접 훈련하지 않더라도 빠르게 검증세트에 과대적합 될 수 있다. -> 한 번 튜닝하고 나서 검증세트에 평가한 결과를 가지고 다시 모델을 조정하는 과정을 여러 번 반복하면 검증세트에 관한 정보를 모델에 아주 많이 노출시키게 되어 과대적합 될 수 있다. Test 데이터세트는 완전히 새로운 데이터이어야 하며 모델은 간접적으로 어떠한 정보도 주면 안됨 -> 테스트 세트 성능에 기초하여 튜닝한 모델의 모든 설정은 일반화 성능을 왜곡시킬 것이다. * 데이터가 적을 경우 사용하면 좋은 고급 기법 - 단순 홀드아웃 검증(ho..

딥러닝 모델의 교차검증 (Cross Validation) 출처: https://3months.tistory.com/321 [Deep Play] 딥러닝 모델의 교차검증 (Cross Validation) 딥러닝 모델의 교차검증 (Cross Validation) 교차검증이란? Keras로 딥러닝 모델을 만들고 이를 교차 검증 하는 방법을 포스팅하겠습니다. 우선 교차 검증(Cross validation) 이 무엇인지에 대해 설명이 필요할 것.. 3months.tistory.com

[Machine Learning] Train data normalization Test 데이터 정규화는 Train의 Mean, Std를 사용해야 하나? - 수천개의 Data point가 있고, Test data가 Train data를 완벽하게 대표한다면 Test, Train 어느 것을 사용해도 된다. (입증 어려움) https://www.researchgate.net/post/If_I_used_data_normalization_x-meanx_stdx_for_training_data_would_I_use_train_Mean_and_Standard_Deviation_to_normalize_test_data 불러오는 중입니다...

Keras Tuner 설치 필요: Python 3.6 TensorFlow 2.0 Beta pip install git+https://github.com/keras-team/keras-tuner.git 기본 사항 random search를 사용해서 a single-layer dense neural network 하이퍼파라미터 튜닝을 해보자. 먼저, model-building 함수를 정의한다. hp는 hyperparameter를 샘플링 할 수 있는 인수이다. ex) hp.Range('units', min_value=32, max_value=512, step=32) (특정 범위의 정수) return은 컴파일된 model from tensorflow import keras from tensorflow.keras import laye..

MDN https://www.katnoria.com/mdn/ https://www.katnoria.com/mdn/ Mixture Density Networks Supervised machine learning models learn the mapping between the input features (x) and the target values (y). The regression models predict continuous output such as house price or stock price whereas classification models predict www.katnoria.com https://kangbk0120.github.io/articles/2018-05/MDN Mixture Densit..

이전 1 2 다음

티스토리툴바