우선 신경망에 대해 다루기 전, 선형모델과 비선형 모델의 차이점부터 짚고 넘어가자. 선형 모델과 비선형 모델 참고블로그 일반적으로 y와 x의 관계가 일차식이면 모두 선형모델이라고 착각하기 쉽다. 우리가 관심을 가져야할 것은 x로 나타낸식이 일차식이냐 아니냐가 아니라 우리가 추정할 대상인 파라미터가 어떻게 생겼느냐이다. 예를 들어, 어떤 파라미터 뒤의 다항식이 $x^2$이더라도 $x^2$을 $x_r$로 치환해버리면 그만이다. 선형 모델은 문자항이 아닌 파라미터 부분이 선형식으로 표현되는 모델이다. 좀더 자세히 알아보면, 선형 회귀 모델은 '회귀 계수(regression coefficient)를 선형 결합으로 표현할 수 있는 모델'을 말한다. 즉 독립 변수가 일차식이냐 이차식이냐 로그 함수식이..