본문 바로가기

Machine Learning

(15)

MDN MDN에서는 출력값을 명시적으로 생성하여 x->y 매핑을 모델링하는 대신 각 대상의 확률 분포를 학습하고 출력을 샘플링한다. 분포 자체는 여러 가우시안(가우스 혼합) 으로 표시된다. 모든 입력 x에 대해 distribution parameters를 학습한다. mean, variance, mixing coefficient k : 가우시안 수 l : 입력 피처 수 (l + 2) k 출력값: the mixing coefficients와 component density parameters를 학습한다. # In our toy example, we have single input feature l = 1 # Number of gaussians to represent the multimodal distribution..

[Keras] Noise Regularization https://machinelearningmastery.com/how-to-improve-deep-learning-model-robustness-by-adding-noise/ How to Improve Deep Learning Model Robustness by Adding Noise Adding noise to an underconstrained neural network model with a small training dataset can have a regularizing effect and reduce overfitting. Keras supports the addition of Gaussian noise via a separate layer called the GaussianNoise laye..

훈련셋, 검증셋, 시험셋 퍼옴: https://tykimos.github.io/2017/03/25/Dataset_and_Fit_Talk/ 데이터셋 이야기 딥러닝 모델을 학습시키려면 데이터셋이 필요합니다. 풀고자 하는 문제 및 만들고자 하는 모델에 따라 데이터셋 설계도 달라집니다. 데이터셋을 어떻게 구성하고 모델을 어떻게 검증할 지 알아보겠습니다. 훈련셋, 검증셋, 시험셋 당신이 고등학교 담임선생님이고 수능 볼 학생이 3명이 있다고 가정을 해봅시다. 이 세 명 중 누가 수능을 가장 잘 볼지 알아 맞혀보도록 하겠습니다. 당신에게는 모의고사 5회분과 작년 수능 문제 1회분을 가지고 있습니다. 다음과 같이 비유될 tykimos.github.io https://book.coalastudy.com/data-science-lv1/week3/..

Validation, Test 데이터세트 비교 Validation 데이터세트는 모델의 성능을 평가하여 하이퍼파라미터 튜닝에 쓰일 수 있다. (층의 수, 층의 유닛 수 등) 검증 세트의 성능을 기반으로 모델의 설정을 튜닝하면 검증 세트로 모델을 직접 훈련하지 않더라도 빠르게 검증세트에 과대적합 될 수 있다. -> 한 번 튜닝하고 나서 검증세트에 평가한 결과를 가지고 다시 모델을 조정하는 과정을 여러 번 반복하면 검증세트에 관한 정보를 모델에 아주 많이 노출시키게 되어 과대적합 될 수 있다. Test 데이터세트는 완전히 새로운 데이터이어야 하며 모델은 간접적으로 어떠한 정보도 주면 안됨 -> 테스트 세트 성능에 기초하여 튜닝한 모델의 모든 설정은 일반화 성능을 왜곡시킬 것이다. * 데이터가 적을 경우 사용하면 좋은 고급 기법 - 단순 홀드아웃 검증(ho..

딥러닝 모델의 교차검증 (Cross Validation) 출처: https://3months.tistory.com/321 [Deep Play] 딥러닝 모델의 교차검증 (Cross Validation) 딥러닝 모델의 교차검증 (Cross Validation) 교차검증이란? Keras로 딥러닝 모델을 만들고 이를 교차 검증 하는 방법을 포스팅하겠습니다. 우선 교차 검증(Cross validation) 이 무엇인지에 대해 설명이 필요할 것.. 3months.tistory.com

데이터 로드 read_pandas_dataframe Creates a new Dataflow based on the contents of a given pandas DataFrame. Parameters df pandas DataFrame to be parsed and cached at 'temp_folder'. temp_folder path to folder that 'df' contents will be written to. overwrite_ok If temp_folder exists, whether to allow its contents to be replaced. in_memory Whether to read the DataFrame from memory instead of persisting..

[Machine Learning] Train data normalization Test 데이터 정규화는 Train의 Mean, Std를 사용해야 하나? - 수천개의 Data point가 있고, Test data가 Train data를 완벽하게 대표한다면 Test, Train 어느 것을 사용해도 된다. (입증 어려움) https://www.researchgate.net/post/If_I_used_data_normalization_x-meanx_stdx_for_training_data_would_I_use_train_Mean_and_Standard_Deviation_to_normalize_test_data 불러오는 중입니다...

Keras Tuner 설치 필요: Python 3.6 TensorFlow 2.0 Beta pip install git+https://github.com/keras-team/keras-tuner.git 기본 사항 random search를 사용해서 a single-layer dense neural network 하이퍼파라미터 튜닝을 해보자. 먼저, model-building 함수를 정의한다. hp는 hyperparameter를 샘플링 할 수 있는 인수이다. ex) hp.Range('units', min_value=32, max_value=512, step=32) (특정 범위의 정수) return은 컴파일된 model from tensorflow import keras from tensorflow.keras import laye..

이전 1 2 다음

티스토리툴바