Table of contents
MSE 개념
평균제곱오차(Mean Squared Error)는 이름에서 알 수 있듯이 오차를 제곱한 값의 평균이다.
오차란 알고리즘이 예측한 값과 실제 정답과의 차이를 의미한다. 즉, 알고리즘이 정답을 잘 맞출수록 MSE값은 작게되고,
MSE 값은 작을수록 알고리즘의 성능이 좋다고 볼 수 있다.
특징
-
오차 대비 큰 손실 함수의 증가폭
- MSE는 오차가 커질수록 손실 함수 값이 빠르게 증가하는 특징이 있다. 아래 그림은 MSE를 좌표평면에 나타낸 것이다.
손실 함수(E)의 크기는 오차의 제곱에 비례하여 변하는 것을 볼 수 있다. 그만큼 미분값이 일정하지 않고 오차가 커질수록 미분값 역시 커지는 것을 알 수 있다.
MSE와는 다르게 평균절대오차(MAE)는 오차가 커질수록 손실 함수가 선형적으로 증가한다. MAE와 비요했을 때, MSE가 비교적 오차의 변화량에 따라 손실 함수 값이 크게 변한다는 것을 알 수 있다.
- MSE는 오차가 커질수록 손실 함수 값이 빠르게 증가하는 특징이 있다. 아래 그림은 MSE를 좌표평면에 나타낸 것이다.
-
회귀문제에 활용
- MSE는 회귀문제에서 자주 활용된다. 예를 들어, 아래 그림과 같이 사진을 통해 강아지의 키와 몸무게를 예측하는 알고리즘이 있다고 가정한다.
사진 속 강아지의 키와 몸무게는 실제로 각각 [40.5,21.3] 라고 해보겠다. 이제 알고맂므은 강아지의 키와 몸무게를 예측한다.
처음에 키와 몸무게를 각각 [39.2,19.7]로 예측했다고 가정한다. MSE를 계산해 보면 4.25이다.
다음 예측에서는 [40.1,20.9]로 출력했다면 MSE는 1.16이다. 이처럼 MSE를 활용하여 세타를 변경해 가며 오차를 줄여갈 수 있다.
- MSE는 회귀문제에서 자주 활용된다. 예를 들어, 아래 그림과 같이 사진을 통해 강아지의 키와 몸무게를 예측하는 알고리즘이 있다고 가정한다.