2. Model and Cost Function- Cost Function

* 해당 글은 coursera의 Machine Learning by Andrew Ng 강의를 토대로 작성되었습니다. 

<목차>

1. 우리는 어떻게 파라미터 Θ값을 설정해야 할까?

2. Θ값에 따른 예시들

3. Θ에 어떤 값을 넣어야 데이터를 잘 측정할 수 있을까?

4. Summary

 

 

 

1. 우리는 어떻게 파라미터 Θ값을 설정해야 할까?

가설(Hypothesis)은 함수로, 우리가 알아야 할 것은 어떻게 데이터를 잘 예측하는 함수를 만들 수 있을까?로,
즉 어떻게 가설의 2개 파라미터, Θ0과 Θ1를 고를 것이냐는 것과 같은 고민이라고 할 수 있습니다.

- 비용함수를 사용하면 주어진 데이터에 가장 가까운 일차함수 그래프를 알아낼 수 있다

- 가설에서 어떻게 Θ0과 Θ1 값을 선택하느냐에 따라 다른 가설들이 만들어질 수 있다

 

 

 

2. Θ값에 따른 예시들

파라미터 Θ값에 따라 예시 1)처럼 수평선, 예시 2)처럼 (2,1)을 지나거나 예시 3)처럼 (2,2)를 지나게 됩니다. 

 

 

 

3. Θ에 어떤 값을 넣어야 데이터를 잘 측정할 수 있을까?

 

 

선형회귀에서, 만약 이런 식으로 제가 표시한 것처럼 훈련집합을 가지고 있다고 합시다. 

 

우리가 하려는 것은 파라메터 Θ0과 Θ1의 값들을 이용해서 이러한 직선을 구해, 여기에 그린 이 직선처럼 직선이 자료와 얼마나 

잘 일치하는지를 보는 것입니다.

 

우리가 어떻게 값들, Θ0, Θ1이 데이터와 얼마나 

잘 일치하는지를 알 수 있을까요?

 

훈련집합의 예시에서 파라메터 Θ0과 Θ1을 고르는 것은, hx, 즉 x값과 같다고 예측한 값은 y값과 가장 비슷한 값입니다. 

그래서 이 훈련집합에서, 우리는 몇몇 숫자들의 예시를 가지고 있고, x값이 집을 선택하게 되고, 이것을 통해 우리는 실제로 어떤 가격에 팔리는지(y)에 대해 알 수 있습니다. 그래서, 파라메터 값을 선택해서, 최소한 훈련집합에서, x값이 주어진다면 우리는 y값에 대한 예측을 할 수 있습니다. 

 

 

 

 

이것을 공식화해본다면 회귀에서, 우리가 하려는 것은  < 최소화문제 >를 풀려고 하는 것입니다. 

최소값(minimize)을 Θ0, Θ1이라고 적고, 이 값을 작게 만들려고 합니다. 

h(x)와 y간의 차이를 작게 만들어야 합니다.  그리고 저는 가설의 결과값과 실제 집의 가격의 차이의 차이의 제곱을 최소화할 것입니다. 

(x(i), y(i)) 기호:  i번째 훈련 예시

실제 훈련집합에서 i=1부터 m까지의 차이의 제곱의 합계를 구하려고 하는 것입니다. 

이 값은 i번의 집의 입력 값에 대한 가설을 예측한 것입니다. -> h(x¡) 

거기에 실제 팔려고 하는 집의 실제 가격을 빼 줍니다. -> y(¡)

<훈련집합의 합을 최소화하는 과정>

이 차의 제곱의 1부터 m까지 합

=> 예측된 집 가격과 실제 팔리는 가격의 차의 제곱 

m값:  훈련집합의 크기

 

 

 

 

+ 그리고 수학을 조금 더 쉽게 해보자면, 이 합에 1/m을 곱합니다. 평균값을 최소화하기 위해 1/2m을 최소화해보겠습니다. 

맨 앞에 1/2값을 놓는 것은 좀 더 쉬워 보이게 되고, 어떤 값의 반을 최소화하는 것은 Θ0, Θ1값을 최소화 하는 것과 같은 값의 과정을 보여줄 것입니다.

 

 

이 표기법은, Θ0, Θ1를 최소화 하는 것으로,

=> Θ0과 Θ1값을 찾아야 하고, Θ0값과 Θ1값에 최소화되는 것

 

우리는 Θ0, Θ1값을 찾기 위해서 

평균값인 1/2m에, 훈련집합에 대한 예측 -> h(x¡) 과, 

최소화된 훈련집합에서 실제 집들의 값의 차 -> y(¡)의 

합계의 제곱을 곱한 값으로 접근

=> 선형회귀에 대한 전반적인 목적 함수

* 비용 함수는 오차함수의 제곱/ 오차요인 제곱함수라고도 부름 

 

 

4. Summary