$y = x^2$ 그래프의 형태와 아래로 볼록한 성질
수학에서의 $y = x^2$
- 아래로 볼록한 포물선: x에 어떤 실수 값을 넣어도 제곱을 하면 항상 0이거나 양수가 되기 때문에 그래프가 U자 모양으로 아래가 둥글게 파인 형태를 띈다.
- 최솟값의 존재: $y = x^2$ 는 $(0,0)$에서 가장 낮은 지점인 꼭짓점을 가진다.
딥러닝에서의 활용
딥러닝에서는 $y = x^2$ 가 모델을 학습시키는 손실함수의 기초가 된다.
- 가로축($x$): 모델이 스스로 찾아내고 조절해야 하는 가중치(파라미터)를 의미
- 세로축($y$): 모델의 예측값과 실제 정답 사이의 차이(오차)를 의미
인공지능을 학습시키는 과정에서는 $y$를 줄여야 한다.
손실함수(MSE)
딥러닝에서 기본적으로 쓰이는 아차함수 형태의 손실함수인 MSE를 이용하여 예시를 들어보았다.
| 이름 | 공부시간 | 시험점수 |
|---|---|---|
| 춘봉 | 2h | 20 |
위와 같은 데이터가 있고, 이를 가지고 인공지능 모델이 학습을 한다고 하자.
- 데이터: 춘봉이는 2시간 공부해서 20점을 받았다. 즉, 입력 데이터 $x = 2$ 이고, 실제 정답 $y = 20$ 이다. 학습 단계에서는 이 데이터를 고정된 상수 취급한다.
- 우리의 모델: 가장 단순한 일차함수 형태로 예측값 $\hat{y} = w \times x$ 라고 해본다. (이해를 돕기 위해 기본 기준점을 잡아주는 편향 $b$는 임시로 0이라고 가정한다 ).
가중치w를 조절하여 오차 계산하기
이 모델에서 사용하는 손실함수를 MSE라고 가정을 한다. MSE는 $(\text{예측값} - \text{실제 정답})^2$로 구한다.
- 시도 1: $w = 5$ 로 찍었을 때
- 예측값: $5 \times$$2$시간 = 10점
- 오차: $(10점 - 20점)^2 = (-10)^2 = 100$
- 시도 2: $w = 15$ 로 찍었을 때
- 예측값: $15 \times 2시간 = 30점$
- 오차: $(30점 - 20점)^2 = (10)^2 =$ $100$
- 시도 3: $w = 10$ 으로 찍었을 때
- 예측값: $10 \times 2시간 = 20점$
- 오차: $(20점 - 20점)^2 = 0^2 =$$0$ (정답)
Leave a comment