UOMOP

미니배치 경사 하강법은 샘플의 일부만을 이용해서 선형식의 가중치와 절편을 업데이트하고, 샘플의 양은 설정이 가능. 미니배치 경사 하강법을 크게 2가지 방식이 있다. 학습 샘플을 특정 갯수만큼 랜덤하게 추출하거나, 학습 샘플을 특정 갯수만큼 가져오되, 모든 데이터를 사용할 수 있도록 하는 것이다. 실무에서는 2번째 방식을 더 많이 이용하여 데이터 편향을 방지하여 모든 데이터를 학습할 수 있도록 한다. 실제로 keras에서도 2번째 Mini-Batch Gradient Descent 방식을 자동으로 사용하고 있고, batch_size의 default값은 32이다. 1. 데이터 불러오기 import numpy as np import pandas as pd from sklearn.datasets import lo..

Stochastic Gradient Descent(확률적 경사 하강법)은 학습 데이터 셋에서 하나의 샘플만을 이용해서 가중치와 절편을 update하게 된다. 하나의 샘플만을 이용해서 선형식을 업데이트하지만 Batch Gradient Descent와 비교해보았을 때 크게 차이나지 않는 것이 특징이다. 1. 데이터 불러오기 import numpy as np import pandas as pd from sklearn.datasets import load_boston boston = load_boston() boston_df = pd.DataFrame(boston.data, columns = boston["feature_names"]) boston_df["PRICE"] = boston.target 2. SGD ..

1. 데이터 불러와서 feature, target 분리하기 import pandas as pd import numpy as np from sklearn.preprocessing import MinMaxScaler from sklearn.datasets import load_boston from tensorflow.keras.layers import Dense from tensorflow.keras.models import Sequential from tensorflow.keras.optimizers import Adam boston = load_boston() boston_df = pd.DataFrame(boston.data, columns = boston["feature_names"]) feature_..

1. 데이터 불러오기 import numpy as np import pandas as pd from sklearn.datasets import load_boston boston = load_boston() boston_df = pd.DataFrame(boston.data, columns = boston["feature_names"]) boston_df["PRICE"] = boston.target boston_df.head() 2. 배치 경사 하강법, 함수로 정의 def gradient(feature, target, learning_rate, iter_epochs, verbose): bias = np.random.rand(1,) w1 = np.random.rand(1,) w2 = np.random.rand..

#include #include #define _CRT_SECURE_NO_WARNINGS #pragma warning(disable:4996) int main() { int arr[] = { 0, 1, 2, 3}; printf("arr의 값 : %d\n\n", arr); for (int i = 0; i < 4; i++) { printf("&arr[%d] = %d\n", i, &arr[i]); printf("arr + %d = %d\n\n", i, arr + i); } }

#include #include #define _CRT_SECURE_NO_WARNINGS #pragma warning(disable:4996) int main() { int a = 10; int* ptr_a = &a; int** ptr_ptr_a = &ptr_a; printf("a : %d\n", a); printf("&a : %d\n\n", &a); printf("ptr_a : %d\n", ptr_a); printf("ptr_a + 1 : %d\n", ptr_a+1); printf("&ptr_a : %d\n", &ptr_a); printf("*ptr_a : %d\n\n", *ptr_a); printf("ptr_ptr_a = %d\n", ptr_ptr_a); printf("*ptr_ptr_a = %d\n..