본문 바로가기

ML&DL/머신러닝

(3)
[머신러닝] 지도 학습(Supervised Learning) INDEX 1. 지도 학습 개요 2. 데이터 3. 피쳐 벡터(x) 4. 손실 함수 5. 데이터 분리 1. 지도 학습 개요 지도 학습은 사람이 먼저 어떤 데이터(x)에 대한 답(y)을 알려주고 이후에 새로운 데이터(x')를 입력받았을 때 x'에 대한 답(y')를 추측하는 학습 방법이다. 어찌 보면 우리 인간이 학습하는 방법과 매우 유사하다. 우리는 어떤 개념을 학습하기 위해 예시들을 접하고 그 예시들(데이터)에서 규칙을 찾으려고 노력하고 이 학습 과정은 뇌에서 일어난다. 이후 보지 못한 상황(데이터)에 우리의 학습된 뇌를 토대로 결과를 도출한다. 컴퓨터의 관점에서 재해석하자면 뇌는 학습하는 모델이다. 즉 모델은 답을 내놓는 몸체인 것이고 이를 학습시키는 것이 데이터인 것이다. 인간의 경우 자신이 얼마나 잘..
[머신러닝] 파이썬으로 선형회귀 BGD, SGD, MSGD 구현 + 실습(광고에 의한 수익 예측) 선형 회귀에서는 경사하강법을 이용해서 파라미터를 찾는다. 하지만 파라미터를 찾기 위해서는 경사하강법에 의거한 다량의 행렬 연산을 수행해야 한다. 행렬 연산의 크기에 따라 크게 3개의 모델로 나뉜다. BGD : 전체 데이터 셋을 연산에 포함 SGD : 데이터 하나만 연산에 포함 MSGD : 전체 데이터 셋을 mini batch로 쪼개고 거기에서 랜덤으로 뽑아 연산 선형 회귀에 대한 개념은 여기에 있다. 여기서 해볼 실습은 kaggle에 있는 Advertising data를 이용해서 광고와 수익 사이의 관계를 예측하는 모델을 만들어볼 것이다. 데이터 셋은 바로 아래에 있다. 의문이 들 수 있는 점이 어차피 여기서 구현하고자 하는 모델 3개는 이미 지원해주고 있는 클래스여서 굳이 스스로 구현할 필요가 있을까?..
[머신러닝] 선형 회귀(Linear Regression)의 이해 INDEX 1. 선형 회귀란 2. 수학적 표현 3. 경사하강법(Gradient Descent) 4. 배치 경사하강법(Batch Gradient Descent) 5. 확률적 경사하강법(Stochastic Gradient Descent) 6. 미니 배치 경사하강법(Mini Batch Gradient Descent) 7. 일반화 식(normal equation) 1. 선형 회귀란 인공지능 분야에서의 출발점이자 기초 모델 중 하나인 모델 선형 회귀(Linear Regression) 모델이다. 이름에 적혀있는 그대로 데이터 간의 선형적인 관계를 이용하자는 목적이 담겨있는 모델이다. 정확히 말하자면 선형 회귀는 한 개의 종속 변수(y)와 한 개 이상의 독립 변수(x)와의 선형 관계를 모델링하는 기법이다. 대표적인 ..