2. Model and Cost Function - Model Representation

* 해당 글은 coursera의 Machine Learning by Andrew Ng 강의를 토대로 작성되었습니다. 

2. Model and Cost Function - Model Representation

<목차>

1. 모델 구성(Model Representation) 살펴보기

- 주택 가격 예측

2. 데이터셋/학습셋의 표기법(dataset/training set notation)

3. 훈련집합을 통한 지도학습 알고리즘 과정

4. Summary

 

 

1. 모델 구성(Model Representation) 살펴보기

- Portland의 주택 가격 데이터로 집세를 예측

<집을 파려고 하는 친구의 집이 1250 평방피트일 때, 얼마에 팔 수 있다고 말할 수 있을까?>

데이터 모형이 일직선을 맞춰볼 수 있는데,

이 선에 근거해서 집을 220K에 팔 수 있다고 말해줄 수 있다.

-> 지도 학습 알고리즘의 예시

이를 지도 학습(supervised leaning)이라고 불리는 이유는 데이터의 각 예에 대해  "적합한 답"을 주어지기 때문입니다.

 

다시 말해, 어떤 것이 실제의 집인지, 어떤 것이 우리의 자료에서 각각의 집이 어떤 가격에 팔렸는지에 대해 말하고 있고, 

게다가, 이것은 실제 수치의 결과, 다시 말해 가격을 예측하는 회귀라는 의미의 회귀 문제(regression problem)의 예시입니다. 

 

그리고 다른 대부분의 감독학습(supervised leaning)의 형태는 분류 문제(classification problem)로 불리는데 예를들면 암종양을 찾을때 그게 악성인지 아닌지에 대한 결정을 내리는 것과 같은 이산값을 예측하는 문제같은 것입니다. 그래서 이것은 0-1의 이산값입니다. 

 

 

 

2. 데이터셋/학습셋의 표기법(dataset/training set notation)

공식적으로, 지도 학습(supervised learning)에서 우리는 데이터셋을 갖고 있고 이 데이터셋을 우리는 학습셋이라고 부릅니다. 

주택 가격의 예제에서 우리는 서로 다른 주택 가격의 학습셋을 가지고 있고, 

우리가 할 일은 이 데이터로부터 어떻게 주택 가격을 예측할 지 학습시키는 것입니다. 

<앞으로 사용하게 될 표기법>

m = 학습예제의 수

이 데이터셋에서, 47줄의 이 테이블이 있다면, 47개의 학습 예제를 가지고 있고 따라서 m은 47

x = 종종 특징(feature)이라고 부르는 입력 변수를 표시하기 위해 사용

ex) x는 Size on feet²(x)

y = 출력값이나 예측하려하는 목표변수를 표기하는데 사용

ex) y는 Price in 1000's(y)

(x, y) = 하나의 학습예제를 표기하는데 사용할 것입니다. 이 표에서 한 줄은 특정한 하나의 학습예제와 대응되며,

(x(i), y(i))는 i번째 학습예제를 의미

-> 예를 들면, x(1)은 첫 번째 학습예제의 입력값으로 2104, y(3)은 315를 말함

 

 

 

3. 훈련집합을 통한 지도학습 알고리즘 과정

주택 가격과 같은 훈련집합을 통해 배우게 될 것은, 이 지도 학습 알고리즘이 어떻게 돌아가느냐에 대한 것 입니다. 

 

지도 알고리즘은 결과 값으로 가는데 보통 이 값은 소문자 h 로 나타나며 h 는 가설을 의미

가설이 하는 일은 당신의 친구가 팔려고 하는 새로운 집의 사이즈를 x에 입력 값으로 받고 결과 값으로 추측되는 값을 y에 받는 것

 => h는 x에서부터 y까지의 지도

 

 

<가설 h를 어떻게 표현할까?> 

hθ(x) = θ0 +  θ1x

shorthand: h(x) instead of hθ(x)

우리가 x의 선형함수인 y를 예측하는 것

=> 자료와 함수가 하는 것은 x의 몇몇 직선함수인 y를 예측하는 것입니다.

=> 하나의 x값으로 모든 y를 예측할 수 있음

이 직선함수는 hθ(x) = θ0 +θ1x로 나타낼 수 있습니다.

 

왜 선형함수를 사용할까?

가끔 우리는 비선형함수 같은 좀 더 복잡한 것을 사용하기도 합니다. 

하지만 이 선형 유형은 간단한 빌딩블록으로, 우리는 선형 함수 유형에서부터 시작할 것입니다. 그리고 우리는 결과적으로 더 복잡한 모형들, 그리고 더 복잡한 학습 알고리즘으로 갈 것입니다. => 일단 간단한 선형 함수부터 사용하고 비선형 함수로 넘어갈거란 뜻 

 

이 모형은 선형회귀라고 불리고, 예를 들자면 실제로 선형회귀의 값은 하나이며, 이 값은 x입니다. 하나의 값 x로 모든 가격들을 예측합니다. 그리고 이 모형의 다른 이름은 단일변량 선형 회귀입니다. 그리고 단일변량이라는 말은 하나의 값이라는 말을 멋있게 이야기한 것입니다. 

               그래서, 이것이 선형회귀입니다.

 

 

 

4. Summary

Model Representation

To establish notation for future use, we’ll use x^{(i)}x(i) to denote the “input” variables (living area in this example), also called input features, and y^{(i)}y(i) to denote the “output” or target variable that we are trying to predict (price). A pair (x^{(i)} , y^{(i)} )(x(i),y(i)) is called a training example, and the dataset that we’ll be using to learn—a list of m training examples {(x^{(i)} , y^{(i)} ); i = 1, . . . , m}(x(i),y(i));i=1,...,m—is called a training set. Note that the superscript “(i)” in the notation is simply an index into the training set, and has nothing to do with exponentiation. We will also use X to denote the space of input values, and Y to denote the space of output values. In this example, X = Y = ℝ.

To describe the supervised learning problem slightly more formally, our goal is, given a training set, to learn a function h : X → Y so that h(x) is a “good” predictor for the corresponding value of y. For historical reasons, this function h is called a hypothesis. Seen pictorially, the process is therefore like this:

 

When the target variable that we’re trying to predict is continuous, such as in our housing example, we call the learning problem a regression problem. When y can take on only a small number of discrete values (such as if, given the living area, we wanted to predict if a dwelling is a house or an apartment, say), we call it a classification problem.