미분
미분의 개념
어떤 순간에 얼마나 빠르게 변하고 있는가?(순간 변화율)
- 微 (작을 미): 아주 미세하고 작게
- 分 (나눌 분): 나눈다
전체적인 큰 변화를 보는 것이 아니라, 변화의 간격을 아주 잘게 쪼개고 나누어서 그 순간의 세밀한 변화를 관찰하는 학문이라는 의미이다.
평균 변화율
우선 미분을 이해하려면 먼저 변화율을 알아야 한다.
서울에서 부산까지 약 400km를 운전해서 가는데 4시간이 걸렸다고 가정해 보자.
- 이동 거리: 400km
- 걸린 시간: 4시간
- 속도(변화율): 400km / 4시간 = 시속 100km
이 시속 100km가 평균 변화율이다.
미분(Derivative) = 순간 변화율
현실에서는 서울에서 부산까지 약 400km를 운전해서 가는데 4시간이 걸렸다고 가정을 해도 4시간 내내 100km로 달리지 않는다.
평균 변화율은 100km 일지 몰라도 순간 변화율은 100km가 아닐 것이다.
만약 경찰이 과속 카메라로 단속을 할 때, 경찰은 여러분이 ‘평균적으로’ 시속 100km로 달렸는지는 관심이 없다. 과속 카메라 앞을 지나가는 찰나에 속도가 몇이였냐가 중요하다.
이처럼 평균 변화율의 시간 간격을 1시간 → 1분 → 1초 → 0.00001초로 한없이 0에 가깝게 줄여나가서 딱 하나의 ‘순간’에 일어나는 변화율(기울기)을 계산하는 것이 미분이다.
수학적 수식(도함수의 정의)
미분을 수식으로 나타내면 아래와 같다.
- 어떤 점 $x$에서 시작해서, 아주 미세한 간격인 $h$만큼 이동했다고 하자. ($x \rightarrow x + h$)
- 이때 함수의 결괏값은 $f(x)$에서 $f(x+h)$로 변한다.
- 변화율(기울기)은 $\frac{\text{결괏값의 변화량}}{\text{입력값의 변화량}}$ 이므로, 식은 이렇게 된다.
- 여기서 $h$(변화의 간격)를 한없이 $0$에 가깝게 줄여버리는 기호인 ‘극한($\lim$)’을 붙이면 미분 공식이 완성된다.
위의 그림에서 현재 위치($x$)에서의 순간 변화율을 구하기 위해 $h$를 0으로 보내는 것이다.
$f(x) = x^2$ 를 직접 미분해 보기
위 공식에 $f(x) = x^2$를 그대로 대입해서 풀어보자
\[\begin{align*} f'(x) &= \lim_{h \to 0} \frac{f(x+h) - f(x)}{h} \\ &= \lim_{h \to 0} \frac{(x+h)^2 - x^2}{h} \quad \leftarrow f(x) \text{ 자리에 } x^2 \text{ 대입} \\ &= \lim_{h \to 0} \frac{(x^2 + 2xh + h^2) - x^2}{h} \quad \leftarrow (x+h)^2 \text{ 전개} \\ &= \lim_{h \to 0} \frac{2xh + h^2}{h} \quad \leftarrow x^2 - x^2 \text{ 이므로 사라짐} \\ \end{align*}\]여기서 분자와 분모에 공통으로 있는 $h$를 약분해 준다.
\[\begin{align*} &= \lim_{h \to 0} (2x + h) \quad \leftarrow h \text{ 로 약분} \end{align*}\]마지막으로 극한(lim)은 h를 한없이 0으로 보낸다는 뜻이므로 식에 남아있는 h는 0이되어 사라진다.
\[\begin{align*} &= 2x + 0 \\ &= \mathbf{2x} \end{align*}\]즉 $f(x) = x^2$ 를 미분한 결과는 $f’(x) = 2x$ 가 된다.
미분 공식
매번 위처럼 복잡한 극한 공식을 풀 수는 없다. 그래서 수학자들은 미리 규칙을 다 정리해 두었습니다. 딥러닝에서 가장 많이 쓰이는 다항함수의 미분 규칙은 아래와 같다.
규칙: 지수를 앞으로 내리고, 지수에서 1을 뺀다.
\[f(x) = x^n \implies f'(x) = n x^{n-1}\]ex)
$f(x) = x^2$ ➔ 위의 $2$가 앞으로 내려오고, 지수 $2$에서 $1$을 빼서 $x^1$이 되므로 ➔ $f’(x) = 2x$
$f(x) = x^3$ ➔ $3$이 앞으로 내려오고, $3-1 = 2$가 되므로 ➔ $f’(x) = 3x^2$
$f(x) = 5x^4$ ➔ $4$가 앞으로 내려와 $5$와 곱해지고, 지수는 $3$이 되므로 ➔ $f’(x) = 20x^3$
Leave a comment