AI,ML,DL

선형회귀

단순한놈 2020. 8. 2. 17:47

1.최소제곱법

 

공식으로 구하는 최적의 기울기와 y절편인데 공식유도가 상당히 어려움..ㅠ

공식유도는 밑의 블로그 참고

 

 

최소제곱법 증명

단순선형회귀분석 중 최소제곱법에 대하여 포스팅 하려고 한다. 이해를 돕고자 적다보니 표현이 다소 불편 할 수도 있다. 전공자는 스킵하면 되겠다. 두개의 변수X와 Y의 자료가 있고 이를 통해

ducj.tistory.com

 

쥬피터 노트북으로 구현해본 최소제곱법

 

 

 

2. 경사 하강법

 

입력이 여러개인 상황에서 최소제곱법의 공식을 이용해 문제를 해결하는것은 어렵기에, 우리는 선을 그어놓고

그 선을 수정해가며 최적의 기울기를 찾는 방법을 이용한다. 

 

실제 주어진 데이터

 

각각의 a와 b를 원래값에서 편미분한값*할인율을 해 업데이트 하는 과정

 

Epochs 2001번 반복한 최적의 선