Bias and variation

calendar Dec 17, 2022 · 1 min read  ·
Share on: linkedin copy

아래 그림과 같이 하나의 target(빨간 점)을 맞추는 문제를 보자. Bias가 높다는 것은 우리의 prediction이 taget 점과 멀리 떨어져 있다는 것이다. prediction error가 높다는 것 Variance는 taget point에서의 error sum이 낮을 수 있지만 prediction이 정확하지 않은 것이다. 데이터의 noise pattern까지 모델이 다 capture 해 버려서 prediction 결과가 정확해지지 않는 것

Source: https://www.simplilearn.com/tutorials/machine-learning-tutorial/bias-and-variance

이 bias와 variance를 낮추기 위해서 regularization, boosting, and bagging 이라는 method를 쓴다.